英伟达竞品来了,训练比H100快70%,英特尔发最新AI加速卡

AI最新资讯2个月前发布 tree
47 0 0

今日应用


今日话题


英伟达竞品来了,训练比H100快70%,英特尔发最新AI加速卡
英伟达竞品来了,训练比H100快70%,英特尔发最新AI加速卡
 

重点标签 AI加速器英特尔Gaudi 3英伟达性能

文章摘要


网络连接
Gaudi 3的I/O升级,每块芯片提供48个100Gb以太网链路,增加了一倍的带宽,达到200Gb/秒。英特尔希望提升Gaudi 3的可扩展性,已开发了多达512个节点的网络拓扑。

性能对比
英伟达H100相比,Gaudi 3在16个加速器集群中训练Llama2-13B时,性能比H100快70%。英特尔预计采用Gaudi 3的H200/H100的推理性能将提高1.3倍至1.5倍,功耗比将提高多至2.3倍。

样品第二季度出货
英特尔将在下个季度发布首款Gaudi 3产品,并向客户提供样品。PCIe版本的Gaudi 3将于今年第四季度推出。

文章来源


原文地址: 点我阅读全文
原文作者: 机器之心

© 版权声明

相关文章

暂无评论

暂无评论...