今日应用
今日话题
老黄祭出新核弹B200！30倍H100单机可训15个GPT-4模型，AI迎新摩尔时代
重点标签 AI芯片、英伟达、Blackwell B200、推理加速、万亿参数
文章摘要
在GTC人工智能大会上，英伟达推出了新一代性能巨兽Backwell，包括Blackwell B200 GPU和GB200「超级芯片」。B200 GPU是迄今为止最强大的AI芯片，拥有2080亿个晶体管和20 petaflops的FP4性能，是H100的5倍。GB200结合了两个B200 GPU和一个Grace CPU，为LLM推理工作负载提供30倍性能，同时成本和能耗降低了25倍。此外，英伟达还推出了AI推理微服务NIM，旨在让全世界用上AI。
Blackwell B200 GPU和GB200超级芯片的发布，预示着AI模型训练和推理的新时代。B200 GPU的性能提升，使得AI公司能够训练更大、更复杂的模型，甚至可以部署一个27万亿参数的模型。GB200的性能在GPT-3大模型基准测试中是H100的7倍，训练速度是H100的4倍。英伟达的新超算平台DGX B200，包含8个Blackwell GPU和2个Intel Xeon处理器，提供高达144 petaflops的AI性能。
英伟达的Blackwell不仅仅是一个芯片，而是一个平台，旨在推动AI技术的发展。新软件NIM代表了英伟达的推理微服务，使得在任何英伟达GPU上运行程序变得更容易。NIM支持跨多个领域的AI用例，包括LLMs、视觉语言模型（VLM）等。英伟达的这些创新，预示着终极生成式AI模型的到来，将为全球技术革命开启新的篇章。
文章来源
原文地址: 点我阅读全文
原文作者: 极市平台
© 版权声明
文章版权归作者所有，未经允许请勿转载。
相关文章
暂无评论...
晒应用是一个专注于软件和资源网站分享的导航类网站。我们致力于为用户提供最新、最热门的应用推荐和AI资源，涵盖各种AI绘画、AI制图、AI工具、AI剪辑、AI文本、AI创作、实用工具、免费软件、在线服务和在线影视导航。无论您是寻找最佳的数字工具还是想要了解最新的黑科技应用，晒应用都能满足您的需求。