今日应用
今日话题
英伟达竞品来了,训练比H100快70%,英特尔发最新AI加速卡
文章摘要
网络连接
Gaudi 3的I/O升级,每块芯片提供48个100Gb以太网链路,增加了一倍的带宽,达到200Gb/秒。英特尔希望提升Gaudi 3的可扩展性,已开发了多达512个节点的网络拓扑。
性能对比
与英伟达H100相比,Gaudi 3在16个加速器集群中训练Llama2-13B时,性能比H100快70%。英特尔预计采用Gaudi 3的H200/H100的推理性能将提高1.3倍至1.5倍,功耗比将提高多至2.3倍。
样品第二季度出货
英特尔将在下个季度发布首款Gaudi 3产品,并向客户提供样品。PCIe版本的Gaudi 3将于今年第四季度推出。
文章来源
原文地址: 点我阅读全文
原文作者: 机器之心
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...