闻登网

闻登网
闻登新闻综合门户网站!

AI算力需求爆发,大模型迎来风口

更新时间:2023-06-13 10:51:32点击:

随着人工智能大模型的发展和下游应用的爆发,全球算力供不应求,相关订单需求骤增。因此,电信运营商等产业链企业力求超前部署,为利用这股热潮开发新的商机奠定基础。

1.png

AI大模型需求急速增长

AI大模型的应用规模呈现爆发式增长,这同时带来了高强度的数据处理需求。百度、腾讯、华为、阿里等互联网巨头都已经发布了AI大模型产品,中国已经成为全球大模型数量的80%以上,其中10亿参数规模以上的大模型已经发布了79个。

AI大模型训练需要大量的算力,随着国内外厂商的加速AI大模型训练和用户的接入数量激增,算力需求将迎来井喷。百度在一季度财报电话会议上表示,截至一季度末,超过300家生态伙伴参与了其内测活动。

华为昇腾计算业务CTO周斌在2023中关村论坛上指出:“全球AI训练所需的计算量呈指数级增长。大约每隔4个月,AI计算需求会翻倍。”

据广发证券分析师李雪峰等人测算,在乐观假设下,国内AI大模型在训练和推理阶段将会需求相当于1.1万台至3.8万台高端AI服务器的算力。以英伟达单片A100 GPU产品售价10万元,AI加速卡占服务器整机价值的70%计算,对应的则为126亿元至434亿元增量AI服务器市场规模。

企业积极布局

全球算力市场供不应求,专家预计未来GPU需求量会增至当前的3-5倍。随着GPU需求水涨船高,供应商加快了生产节奏。

6月8日,台积电宣布先进后端六厂正式启用,采用了3DFabric技术。3DFabric技术主要由先进封装、三维芯片堆叠和设计三部分组成。通过先进封装,在单一封装中置入更多处理器及存储器,从而提升运算效能。

英伟达、AMD等全球芯片巨头也都推出了AI芯片新品,把握市场机遇。英伟达最近发布了NVIDIA DGX超级计算机技术,采用256个GH200超级芯片相连作为单个GPU运行,可以提供大负载巨型AI大模型开发所需要的运算能力。

政策和企业合力推动算力市场发展。6月2日,上海临港新片区发布了《临港新片区加快构建算力产业生态行动方案》。同时,中国电信临港算力智算公共服务平台暨国产GPU创新联合基地和新片区智算产业联盟成立,搭建智算产业交流平台。