今日应用
今日话题
英伟达赢麻了!马斯克xAI超级算力工厂曝光,10万块H100、数十亿美元
重点标签 xAI超级计算机、Grok聊天机器人、AI技术、英伟达、甲骨文公司
文章摘要
在追求更强大的人工智能(AI)技术的过程中,科技巨头们纷纷投入巨额资金建造超级计算机。英伟达(NVIDIA)的芯片在这一领域扮演着重要角色。2022年,Meta与英伟达合作打造了AI研究超级计算机(AI Research SuperCluster,简称RSC),由760个英伟达DGX A100系统组成,拥有6080块GPU,性能极为强大。
埃隆·马斯克(Elon Musk)旗下的人工智能初创公司xAI也计划加入这一竞争,据外媒The Information报道,马斯克向投资者透露,xAI计划建造名为“Gigafactory of Compute”的超级算力工厂,以支持其AI聊天机器人Grok的下一个版本。xAI计划将10万块H100专用GPU串联成一台超级计算机,其规模至少是目前最大AI集群的四倍,预计将耗费数十亿美元和大量电力。
马斯克对于这一项目充满信心,他的目标是在2025年秋季之前让这台超级计算机投入使用,并亲自监督项目按时交付。xAI有望与甲骨文公司(Oracle)合作建造这台超级计算机。目前,xAI已经成为Oracle最大的H100服务器芯片租赁客户,已经使用了超过1.5万块H100芯片。
一旦超级算力工厂建成,10万块GPU芯片集群将加速Grok聊天机器人的开发,减少语音限制。目前Grok的最新版本为1.5版,已经实现了长上下文理解和高级推理能力,能够处理128K token的长上下文窗口。马斯克此前还透露,正在训练的Grok 2已经使用了约2万块H100 GPU,而未来进阶版本Grok 3可能需要高达10万块H100 GPU。
对于超级算力工厂而言,最关键的是找到一个电力充沛的位置,可能需要100MW的电力供应。AI数据中心的位置选择至关重要。这个规模庞大的超级算力工厂将帮助xAI追赶资金更为雄厚的竞争对手,如OpenAI和微软。据报道,微软和OpenAI计划投入超过1000亿美元打造一个数据中心项目,其中包括一台名为“星际之门”(Stargate)的AI超级计算机,配备了数百万个专用服务器芯片,旨在为OpenAI实现人工通用智能(AGI)提供动力。
这并非马斯克首次投入超算项目。此前,特斯拉(Tesla)被曝出计划到2024年底投入超过10亿美元打造一台名为“Dojo项目”的内部超级计算机,用于处理数据和视频,提高自动驾驶能力并最终实现完全自动驾驶。
马斯克在大语言模型领域的这一巨额投资,如果消息属实,将成为游戏规则改变者。而英伟达无疑是这一变革中的最大赢家。
文章来源
原文地址: 点我阅读全文
原文作者: 机器之心