今日应用
今日话题
史上最快AI芯片「Sohu」,速度10倍于B200,哈佛辍学生打造
重点标签 AI芯片、Etched、Sohu、Transformer、算力
文章摘要
美国芯片创业公司Etched推出了其首款AI芯片Sohu,专为Transformer架构设计,性能显著超越现有GPU。Sohu芯片的推出,标志着AI芯片领域的一次重要突破,其性能和效率的提升,为AI大模型时代的到来提供了强有力的硬件支持。
Sohu芯片的推出,是AI芯片领域的一大创新。它专为Transformer架构设计,能够提供极高的运行速度和效率。根据Etched的测试,一台集成8块Sohu芯片的服务器,每秒可以处理50万个Llama 7B tokens,性能是英伟达H100 GPU的20多倍。这一性能的提升,得益于Sohu芯片的ASIC设计,将Transformer架构的优化固化在芯片中,实现了90%以上的FLOPS利用率。
Sohu芯片的推出,也反映了AI芯片领域的发展趋势。随着AI大模型时代的到来,对算力的需求日益增长,而传统的GPU在性能提升上已经遇到了瓶颈。Sohu芯片的推出,为AI领域提供了一种新的选择,通过专业化的设计,实现了性能的大幅提升。Etched公司CEO Gavin Uberti表示,如果Transformer架构继续成为主流,Sohu芯片有望成为市场上的领导者。
Sohu芯片的推出,也得到了资本市场的认可。Etched公司在Sohu芯片发布的同时,完成了1.2亿美元的A轮融资,总融资额达到1.2536亿美元。这一融资的成功,为Sohu芯片的进一步研发和市场推广提供了资金支持。
总的来说,Sohu芯片的推出,是AI芯片领域的一大创新,其性能和效率的提升,为AI大模型时代的到来提供了强有力的硬件支持。随着AI技术的不断发展和应用,Sohu芯片有望在AI领域发挥更大的作用,推动AI技术的进步和应用。
文章来源
原文地址: 点我阅读全文
原文作者: 机器之心