今日应用
今日话题
奥特曼挂帅新团队,OpenAI新一代大模型开训,前任高管却「投敌」了
重点标签 OpenAI、安全与保障、人工智能、AGI、竞争对手
文章摘要
同时,OpenAI宣布已经开始训练其下一个前沿模型,预计将达到新的能力水平,推动公司在通向人工通用智能(AGI)的道路上前进。安全与保障委员会还包括Aleksander Madry、Lilian Weng、John Schulman、Matt Knight和Jakub Pachocki等技术和策略专家,并将咨询其他AI安全研究者和技术专家。
然而,安全问题并非易事。前董事会成员Helen Toner在播客中提到,前董事会是在Twitter上得知ChatGPT发布的,这暴露了前董事会对公司缺乏有效监督的问题。Toner还提到了奥特曼的解雇事件,以及董事会对他失去信任的原因,包括他未告知董事会他拥有OpenAI创业基金,以及在多个场合提供关于公司安全流程的不准确信息。
此外,前安全负责人Jan Leike已加入OpenAI的竞争对手Anthropic,继续从事超级对齐研究。Leike曾是OpenAI超级对齐团队的共同领导者,该团队的任务是确保AI与其制造者的目标保持一致。Leike的离职和团队的解散引发了对OpenAI在AI安全性方面的承诺和资源分配的质疑。
随着AI安全问题在科技领域受到越来越多的关注,OpenAI的行动和决策将对整个行业产生重要影响。业界对公司在没有充分考虑潜在社会危害的情况下发布强大的AI产品表示担忧,而AI安全的未来方向值得每个人认真审视。
文章来源
原文地址: 点我阅读全文
原文作者: 机器之心
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...