闻登网

闻登网
闻登新闻综合门户网站!

性能提升令人惊讶,应用场景引发联想,“超强AI芯片”引爆世界科技圈

更新时间:2023-11-15 09:35:41点击:

全球知名芯片厂商英伟达近日发布了全球最强AI芯片H200,在全球超算大会上引发了广泛关注。H200是英伟达H100的升级版,性能提升约60%到90%。这款AI芯片的发布对于生成式AI大模型的发展将产生重要的影响。

1.png

H200芯片具备强大的性能,其内置141GB的HBM3e内存,显存带宽达到4.8TB/s,这使得芯片能够高速、高效地处理海量数据。根据英伟达的介绍,在处理Meta的大语言模型Llama2(700亿参数)时,H200的推理速度比H100提高了将近1倍。这使得H200成为了OpenAI训练其最先进大型语言模型GPT-4的首选芯片。

该性能强大的芯片将能够加速生成式AI大模型的进化。生成式AI大模型在自然语言处理、图像生成和预测等领域有广泛的应用。然而,这些大模型的训练和推理过程需要处理海量的数据,所以需要具备高性能的芯片来提供快速的计算能力。H200的推出将使得处理这些大模型的速度更快,从而促进生成式AI在更多领域的应用。

据报道,英伟达打算将H200与其Grace CPU搭配使用,形成性能更强的GH200 Grace Hopper超级芯片。这款芯片专门用于应用于大型HPC(高性能计算)和AI。英伟达希望通过推出高性能的芯片来巩固其在人工智能计算领域的领导地位,同时也要面对来自亚马逊、谷歌等竞争对手的挑战。

该芯片已经得到了一些顶级超算中心的认可,比如德国尤里希超级计算中心将在其超算JUPITER中使用GH200超级芯片。这台超级计算机将成为欧洲第一台超大规模超级计算机,是欧洲高性能计算联合项目的一部分。此外,日本先进高性能计算联合中心也计划在下一代超级计算机中采用英伟达GH200 Grace Hopper超级芯片。

综上所述,英伟达发布的H200芯片对于生成式AI大模型的发展具有重要的意义。其强大的性能将提高大模型的训练和推理速度,加速AI技术在各个领域的应用。同时,该芯片也将加强英伟达在人工智能计算领域的领导地位,并在顶级超算中心中得到广泛应用。这一新的技术进展将推动人工智能行业的发展,为未来的科技创新带来更多可能性。