就像当年所有公司都在你追我赶的「上云」,现在所有公司都在问,如何才能用上大模型? 不少公司不断推出不同的大模型,来帮助企业进入到这个 AI 的新时代。 如果说大模型代表的「算法」、GPU 代表的算力都在因为大模型而不断进化时,在数据方面,尤其是数据存储方向上,业界目前还没有更好的方案,来解决大模型时代数据的存储、训练和传输。 7 月 14 日,在华为盘古大模型 3.0 发布一周后,华为数据存储发布了新产品 OceanStor A310 和 FusionCube A3000,两款产品分别在深度学习数据存储,以及训(练)/推(理)融合能力上进行了提升,有望进一步降低 AI 大模型的使用门槛。 华为公司副总裁,数据存储产品线总裁周跃峰|华为 两小时完成大模型部署 「如果用人类进化历史做比喻,大脑类似于算力、算法类似于方法论,而文字类似于数据,有了文字,才能传承文明。」 华为公司副总裁,数据存储产品线总裁周跃峰如此描述算力、算法和数据,三个在 AI 时代最重要的元素的关系。 在大模型为代表的新的 AI 时代,算力和算法在快速推进,这就对数据也提出了更高的要求——一方面大模型需要的数据量更大,一方面数据存储需要更好的配合算力,避免让 GPU「空闲」浪费算力资源和成本。 华为团队认为,大模型时代存储的技术挑战有两个: 1、数据准备阶段的问题,包括数据归集慢以及数据预处理周期长。 数据归集需要从跨地域的多个数据源拷贝原始数据,这些原始数据不能直接用于 AI 模型训练,需要将多样化、多格式的数据进行清洗、去重、过滤、加工,大量的数据预处理工作需要耗用大量的 GPU,我们知道 100 个 GPU 每小时的训练成本是几十万,可以用「近存计算技术」系统性地处理这个
ARTICLE
/
极客公园
盘古大模型之外,华为首秀大模型时代「硬实力」
2023年07月14日 16:12 · 来自 极客公园