苹果AI终于来了!从2.7到30亿四款大模型代码全开源,AI技术持续“狂飙”

AI最新资讯3个月前发布 tree
51 0 0

今日应用


今日话题


苹果AI终于来了!从2.7到30亿四款大模型代码全开源,AI技术持续“狂飙”
苹果AI终于来了!从2.7到30亿四款大模型代码全开源,AI技术持续“狂飙”
 

重点标签 苹果

文章摘要


摘要:
苹果公司在Hugging Face平台上发布了名为OpenELM的高效语言模型,该模型有四种尺寸,定位于超小规模模型,可在手机和笔记本电脑等设备上运行。苹果在WWDC24开发者大会前开源了OpenELM模型权重和推理代码,数据集和训练日志等,同时开源了神经网络库CoreNet。OpenELM使用了约1.8万亿tokens数据进行预训练,展现出小参数下的强大性能。苹果的这一举措表明其进军AI大模型领域的坚定决心,并可能在效仿谷歌的方式,通过开源拉拢用户,再用闭源产品实现商业化营利。

详细摘要:

1. 苹果发布OpenELM模型:苹果公司在Hugging Face平台上发布了一个名为OpenELM的高效语言模型,该模型有2.7亿、4.5亿、11亿和30亿个参数版本,定位于超小规模模型,可在手机和笔记本电脑等设备上运行。

2. 开源模型权重和推理代码:在WWDC24开发者大会之前,苹果彻底开源了OpenELM模型权重和推理代码,数据集和训练日志等,同时开源了神经网络库CoreNet。

3. 预训练tokens数量减半,性能更优:尽管OpenELM的参数规模较小,但其使用了约1.8万亿tokens数据进行预训练,展现出小参数下的强大性能。例如,11亿参数的OpenELM比12亿参数的OLMo模型的准确率高出2.36%,而使用的预训练数据却只有OLMo的一半。

4. 苹果加入开源大模型阵营:苹果作为手机闭源领域的领导者,此次罕见地加入开源大模型阵营。这可能在效仿谷歌的方式,通过开源拉拢用户,再用闭源产品去实现商业化营利。

5. AI技术持续“狂飙”:除了苹果,国内外AI技术依然“狂飙”,OpenAI获得了全球第一块DGX H200,英伟达收购了以色列AI基础设施编排和管理服务Run:ai,以及Cognition完成了一轮1.75亿美元的融资。

6. AI投资方向转变:Gartner分析师表示,随着Anthropic、OpenAI等第一梯队的玩家占据主导地位,AI投资范围正在“向外延展”,热钱涌向了新方向——AI应用。大模型需要大量投资,但市场现在更多地受到科技公司的影响,这些公司将利用现有的AI产品、服务和产品来构建新产品。

7. AI领域新趋势:整个市场方向已快速转变,端侧模型、AI应用、行业大模型等都将成为今年整个AI领域新趋势。2024年1月5日,【智求共赢・中国AIGC产业应用峰会暨无界AI生态合作伙伴大会】在杭州未来科技城会议中心举行,聚焦AIGC领域,探讨行业激烈竞争下的运营新思路、发展新模式。

文章来源


原文地址: 点我阅读全文
原文作者: AIGC新智界

© 版权声明

相关文章

暂无评论

暂无评论...