老黄祭出新核弹B200!30倍H100单机可训15个GPT-4模型,AI迎新摩尔时代

AI最新资讯3个月前发布 tree
72 0 0

今日应用


今日话题


老黄祭出新核弹B200!30倍H100单机可训15个GPT-4模型,AI迎新摩尔时代
老黄祭出新核弹B200!30倍H100单机可训15个GPT-4模型,AI迎新摩尔时代
 

重点标签 AI芯片英伟达Blackwell B200推理加速万亿参数

文章摘要


在GTC人工智能大会上,英伟达推出了新一代性能巨兽Backwell,包括Blackwell B200 GPU和GB200「超级芯片」。B200 GPU是迄今为止最强大的AI芯片,拥有2080亿个晶体管和20 petaflops的FP4性能,是H100的5倍。GB200结合了两个B200 GPU和一个Grace CPU,为LLM推理工作负载提供30倍性能,同时成本和能耗降低了25倍。此外,英伟达还推出了AI推理微服务NIM,旨在让全世界用上AI。

Blackwell B200 GPU和GB200超级芯片的发布,预示着AI模型训练和推理的新时代。B200 GPU的性能提升,使得AI公司能够训练更大、更复杂的模型,甚至可以部署一个27万亿参数的模型。GB200的性能在GPT-3大模型基准测试中是H100的7倍,训练速度是H100的4倍。英伟达的新超算平台DGX B200,包含8个Blackwell GPU和2个Intel Xeon处理器,提供高达144 petaflops的AI性能。

英伟达的Blackwell不仅仅是一个芯片,而是一个平台,旨在推动AI技术的发展。新软件NIM代表了英伟达的推理微服务,使得在任何英伟达GPU上运行程序变得更容易。NIM支持跨多个领域的AI用例,包括LLMs、视觉语言模型(VLM)等。英伟达的这些创新,预示着终极生成式AI模型的到来,将为全球技术革命开启新的篇章。

文章来源


原文地址: 点我阅读全文
原文作者: 极市平台

© 版权声明

相关文章

暂无评论

暂无评论...