奥特曼挂帅新团队,OpenAI新一代大模型开训,前任高管却「投敌」了

AI最新资讯2个月前发布 tree
24 0 0

今日应用


今日话题


奥特曼挂帅新团队,OpenAI新一代大模型开训,前任高管却「投敌」了
奥特曼挂帅新团队,OpenAI新一代大模型开训,前任高管却「投敌」了
 

重点标签 OpenAI安全与保障人工智能AGI竞争对手

文章摘要


同时,OpenAI宣布已经开始训练其下一个前沿模型,预计将达到新的能力水平,推动公司在通向人工通用智能(AGI)的道路上前进。安全与保障委员会还包括Aleksander Madry、Lilian Weng、John Schulman、Matt Knight和Jakub Pachocki等技术和策略专家,并将咨询其他AI安全研究者和技术专家。

然而,安全问题并非易事。前董事会成员Helen Toner在播客中提到,前董事会是在Twitter上得知ChatGPT发布的,这暴露了前董事会对公司缺乏有效监督的问题。Toner还提到了奥特曼的解雇事件,以及董事会对他失去信任的原因,包括他未告知董事会他拥有OpenAI创业基金,以及在多个场合提供关于公司安全流程的不准确信息。

此外,前安全负责人Jan Leike已加入OpenAI的竞争对手Anthropic,继续从事超级对齐研究。Leike曾是OpenAI超级对齐团队的共同领导者,该团队的任务是确保AI与其制造者的目标保持一致。Leike的离职和团队的解散引发了对OpenAI在AI安全性方面的承诺和资源分配的质疑。

随着AI安全问题在科技领域受到越来越多的关注,OpenAI的行动和决策将对整个行业产生重要影响。业界对公司在没有充分考虑潜在社会危害的情况下发布强大的AI产品表示担忧,而AI安全的未来方向值得每个人认真审视。

文章来源


原文地址: 点我阅读全文
原文作者: 机器之心

© 版权声明

相关文章

暂无评论

暂无评论...