芯片战场丨最新英特尔芯片 Gaudi3, 超越NVIDIA H100!训练快40% 推理快50% !

picture.image

picture.image

在 Intel Vision 2024 大会上,发布了最新一代的AI芯片 —— Gaudi 3。

picture.image

Gaudi 3采用了先进的 5纳米 制程技术,并配备了128GB HBMe2内存,支持1.5倍的内存带宽提升。英特尔宣称,Gaudi 3在BF16 AI计算能力上比前一代产品提升了4倍,这使得它在处理大型AI模型时表现出色。

英特尔的Gaudi 3被设计用于支持多种大型AI模型,包括Llama、Stable Diffusion和Whisper等。英特尔副总裁Das Kamhout表示,在处理70亿、130亿参数的Llama2模型,甚至1750亿参数的GPT-3模型时,Gaudi 3相比于英伟达H100能够将训练时间缩短50%,推理时间缩短40%,同时在能耗和成本方面也有更好的表现。

picture.image

英特尔公司首席执行官帕特·基辛格在大会上表示,Gaudi 3的性能将与英伟达H200相当,甚至在某些领域会表现得更好。尽管他没有提供具体的对比数据,但这表明英特尔对Gaudi 3的性能充满信心。

在网络连接方面,Gaudi 3采用了以太网网络,这使得企业能够从单个节点灵活扩展到拥有数千个节点的集群、超级集群和超大集群,从而支持大规模的推理、微调和训练。

此外,英特尔还发布了至强6处理器,包括配备能效核的Sierra Forest和配备性能核的Granite Rapids。这些新产品进一步丰富了英特尔的AI生态系统,覆盖了数据中心、云和边缘侧的计算需求。

英特尔的这些动作表明,公司在AI芯片市场的竞争中正逐步加强其地位,未来将与英伟达和AMD展开更加激烈的竞争。随着AI技术的不断发展和应用场景的扩大,这些公司的竞争将更加白热化。

扫描二维码添加小先知

回复 “未来先知”加群了解更多资讯

picture.image

picture.image

0
0
0
0
评论
未登录
暂无评论