大模型2024:先把价格打下去

AI最新资讯3个月前更新 tree
61 0 0
大模型2024:先把价格打下去

  作者|昭觉

  来源|惊蛰研究所

  AI新星OpenAI最近有点头疼,不仅公司和CEO被马斯克起诉,其拳头产品GPT-4在性能和价格上均面临竞争对手的冲击。

  近期,成立不到一年的法国人工智能创企Mistral AI发布了最新大模型Mistral Large,并推出了首个聊天机器人产品Le Chat,直接对标ChatGPT。据了解,Mistral Large在目前所有能通过API访问的大模型中评分第二,仅次于GPT-4。

  更值得关注的是,Mistral AI还与微软达成了更加深入的合作协议,微软将投资入股Mistral AI,并为其提供算力和云服务,而Mistral AI的大模型资源也将在微软的Azure云平台中售卖。要知道,上一个有此待遇的AI创业公司还是OpenAI。

  除此之外,更低廉的API接口价格也让Mistral Large成为了GPT-4的有力竞争者,并有望在当前的大模型军备竞赛中掀起一场价格战。

  比GPT-4更具性价比?

  作为一款诞生于欧洲的大模型,Mistral Large支持英语、法语、西班牙语、德语和意大利语,可深度理解语法和文化背景。另外,Mistral Large的上下文窗口为32K,可从约2.4万个英文单词的大型文档中精准提取信息;具备精确的指令跟随能力,便于开发者定制审核策略;支持原生函数调用和限定输出模式,助力应用开发规模化和技术栈现代化。

  性能方面,虽然Mistral AI并未公布Mistral Large的参数量,但其关键性能已达到业界前三。

  具体来看,Mistral Large在MMLU基准测试中的常识和推理得分为81.2%,仅次于GPT-4的86.4%。Mistral Large达到了顶级的推理能力,可用于复杂的多语言推理任务,包括文本理解、转换和代码生成。其推理准确性优于Anthropic的Claude 2、谷歌的Gemini 1.0 Pro、OpenAI的GPT-3.5,推理速度甚至超过了GPT-4和Gemini Pro,显示了其在处理复杂任务时的高效能力。

大模型2024:先把价格打下去

  多语言能力测试中,Mistral Large在法语、德语、西班牙语和意大利语的Arc Challenge、HellaSwag、MMLU等基准测试中的表现均远超目前公认最强的开源大模型——Meta的LLaMA 2 70B。

  数学和编程能力方面,Mistral Large同样表现不俗:其在MBPP基准测试中的编程得分高于LLaMA 2 70B,在Math maj@4基准测试中的数学得分也领先于GPT-3.5、Gemini Pro 1.0等模型。

大模型2024:先把价格打下去

  作为Mistral AI商用系列中的旗舰模型,Mistral Large与GPT-4一样并未开源。用户可通过三种方式访问与使用Mistral模型:其中,在欧洲的Mistral Al基础设施上安全托管的La Plateforme是开发者访问Mistral Al所有模型的首选方式,开发者可通过点击创建自己的应用程序和服务;Mistral Al的开源模型目前可通过GCP、AWS、Azure、NVIDIA等云服务商获得,而Mistral Large目前仅通过Azure云平台提供服务,包括Azure AI Studio和Azure Machine Learning。

  此外,开发者还可以通过虚拟云或on-prem自行部署使用Mistral模型,这种方式提供了更高级的自定义和控制,自有数据将保留在公司内部。

  价格方面,目前上下文窗口为128k的GPT-4 Turbo的输入价格为0.01美元/1000 token,输出价格为0.03美元/1000 token。相比之下,Mistral Large的输入、输出价格均为前者的80%。

  体验方面,有AI创业者指出,Mistral Large的使用体验碾压曾经的第三名Claude 2。截至2023年11月,OpenAI的开发者规模达200万,其中包含92%的世界500强企业。而Mistral Large直逼GPT-4的性能和更低的售价有望为需求量巨大的企业用户节省一大笔开支,从被OpenAI垄断的MaaS(模型即服务)市场撕开一个口子。

  MoE架构立大功

  Mistral Large把价格打下来的底气是更低的训练成本。OpenAI CEO Sam Altman曾表示,GPT-4的模型训练成本“远远超过了”5000万至1亿美元。而据Mistral AI创始人Arthur Mensch透露,Mistral Large的训练成本不到2200万美元,约为GPT-4的五分之一。

  除了真金白银的训练成本,后来者居上的Mistral Large的时间成本也更具优势。OpenAI从成立到推出GPT-4,足足用了8年,而Mistral AI推出仅次于GPT-4的Mistral Large只用了9个月。

大模型2024:先把价格打下去

  Mistral AI号称欧洲版OpenAI,创始团队由Meta和Deepmind的前科学家们组成。成立后的半年多时间里,Mistral AI接连完成1.05亿欧元种子轮融资和后续的4.15亿欧元融资,得到美国光速、a16z等顶级VC以及英伟达、赛富时、法巴银行的青睐。

  同期,Mistral AI先后推出号称当时“最强的70亿参数开源模型”Mistral 7B、首个开源MoE大模型Mistral 8x7B。其中,Mistral 8x7B更是以一条简单粗暴的磁力链接引领了大模型发布的新范式,给业界带来震撼。

  凭借巨额融资叠加新品发布,Mistral AI的估值也曾一夜之间飙升至20亿美元,成为大模型领域的新晋独角兽。而Mistral AI更引人关注的是,从初期只有6人的小团队成长至今,Mistral AI一直是MoE路线的忠实信徒。

  MoE即“混合专家模型”,这种模型设计策略通过将大模型分解为多个子模块,提高模型的容量、处理能力和效率。MoE架构主要由“专家”和门控机制两部分构成。每个“专家”相当于一个小型的Transformer模型,专门处理特定类型的输入数据,多个“专家”的结合则使模型具备了更好的性能。而门控机制则用于判定输入样本需由哪些“专家”接管处理。

  大模型的大规模应用与其算力成本紧密相关。对于模型厂商而言,目前主要的算力成本包括预训练成本和推理成本。除去GPU每秒运算次数和显卡的租用成本这两个常量后,大模型的预训练成本与模型参数量和训练数据的token量正相关,推理成本与模型参数量正相关。而大模型的性能通常与其参数量相关联,而越高的参数量意味着越高的算力成本。因此,如何在同样的算力成本下提升大模型的参数量成了破局的关键。

  而MoE的解题思路是引入稀疏性,即模型训练过程中,各有所长的“专家”们独立训练、各司其职,在过滤重复信息、减少数据干扰的同时大幅提升模型的学习速度与泛化能力;在推理过程中,每次推理只按需调用部分“专家”,激活其对应的部分参数,如此便有效降低了相同参数下大模型的算力成本。

大模型2024:先把价格打下去

  有意思的是,OpenAI在去年成为“当红炸子鸡”成功得到众多重度用户的续费后,被曝采用MOE重新设计了GPT-4构架,导致性能受到影响。尽管OpenAI官方并未对此进行正面回应,但利用MOE架构降低训练成本,已经被认为是一个无比自然的发展方向。

  Mistral AI同样未公布大模型的具体参数与训练数据Token数,但此前谷歌应用MoE开发出的GLaM模型参数量达12000亿、训练数据16000亿token,分别是GPT-3.5的6.8倍和5.3倍,其实际的训练成本却只有GPT-3.5的三分之一也印证了MoE框架的高效。

  延续着MoE的路线,如果说此前发布的开源模型Mistral 7B、Mistral 8x7B实现了对LLaMA等大参数开源模型的逆袭,此次发布的Mistral Large则是Mistral AI对可持续商业模式的探索,试图以闭源模型搭建可盈利的产品线。

  大模型进入成本战

  顶着对华芯片禁售的压力,芯片巨头英伟达以一份耀眼的四季报打消了市场顾虑:在数据中心与游戏业务双核驱动下,英伟达2023年四季度营收、净利润大幅超出预期,毛利率再创历史新高。业绩加持下,英伟达业绩已突破2万亿美元,更接连超越亚马逊、沙特阿美,成为仅次于微软和苹果的全球第三大公司。

  数据、算力和算法构成了大模型的基石。在当下这波如火如荼的大模型淘金热中,从学界到初创企业再到巨头纷纷下场,而无论其技术路线是开源或闭源,应用场景是通用或垂直,AI芯片作为大模型大脑,始终是模型预训练和推理必不可少的工具。

大模型2024:先把价格打下去

  身为高端GPU市场中唯一的提供方,“军火商”英伟达是这场大模型军备竞赛中永远的赢家——以A100为例,若要通过训练达到ChatGPT级别的性能,至少消耗一万张A100加速卡,巨头们囤货的单位也以万张起,怎能不赚得盆满钵满?

  但换个角度来看,在GPU供应短缺的背景下,一张A100显卡售价约10000美元甚至更高,对于大模型厂商来说,在应用落地和商业化前景仍不明朗的情况下,动辄上亿美元真金白银的投入必然肉疼。在算力、数据、人力等资源成本高企的情况下,如何用相对低的成本训练出一个想要的大模型,并以一个用户可接受的成本让大模型跑起来是大模型行业在2024年的当务之急。

  在保证同等效果前提下,提高硬件利用率,缩短算力使用时长;优化工具链以提高训练、推理效率;适配低价GPU是当前国内大模型厂商降本的主流方法论。

  例如,面向大模型训练,腾讯升级了自研机器学习框架Angel,针对预训练、模型精调和强化学习等全流程进行了加速和优化,提升了内存的利用率。借此,大模型训练效率可提升至主流开源框架的2.6倍,用该框架训练千亿级大模型可节省50%算力成本,大模型推理速度提高了1.3倍。

  京东云推出vGPU池化方案,提供一站式GPU算力池化能力,结合算力的任意切分和按需分配,在同等GPU数量的前提下,实现了数倍业务量扩展和资源共享,降低了硬件采购成本,使用更少的AI芯片支撑了更多的训练和推理任务,GPU利用率最高提升70%,大幅降低大模型推理成本。

大模型2024:先把价格打下去

  阿里云通义大模型则聚焦于规模定理,基于小模型数据分布、规则和配比,研究大规模参数下如何提升模型能力,并通过对底层集群的优化,将模型训练效率提升了30%,训练稳定性提升了15%。

  百度升级了异构计算平台“百舸”,将训练和推理场景的吞吐量提高了30%-60%,意味着原先需要用100天的训练才能达成的效果,现在只需40-70天,节约时间等于间接省钱。同时,在英伟达之外,百度的“千帆”大模型平台还兼容昆仑芯、昇腾、海光DCU、英特尔等国内外其他主流AI芯片,通过组合选项完成低成本的算力适配。

  正所谓“早买早享受,晚买有折扣。”当前,Mistral AI以性价比暂时领先,但也有不少开发者还在等待OpenAI大模型产品的升级降价。毕竟,正是OpenAI自己在GPT-4发布后不到8个月就推出了更强也更便宜的GPT-4 Turbo。  

文章来源于互联网:大模型2024:先把价格打下去

© 版权声明

相关文章

暂无评论

暂无评论...