Hinton痛悔毕生工作,AGI十年内降临或导致「奥本海默」灾难!图灵巨头联手中国专家为AI划红线

AI最新资讯4个月前发布 tree
72 0 0

今日应用


今日话题


Hinton痛悔毕生工作,AGI十年内降临或导致「奥本海默」灾难!图灵巨头联手中国专家为AI划红线
Hinton痛悔毕生工作,AGI十年内降临或导致「奥本海默」灾难!图灵巨头联手中国专家为AI划红线
 

重点标签 AI安全北京共识HintonBengioAGI

文章摘要


在AI技术迅速发展的今天,众多科技领袖对其潜在风险表示担忧。深度学习之父Geoffrey Hinton和深度学习三巨头之一Yoshua Bengio等在「北京AI安全国际对话」中表达了对AI的恐惧和后悔。他们认为,数字智能可能最终取代生物智能,而强大的AI系统可能被恶意利用或失控,对人类社会构成巨大威胁。

AGI的潜在风险

Bengio强调,人工通用智能(AGI)的实现是一种必然,可能在10年或20年后降临。AGI的强大能力若落入恶意方手中,后果将不堪设想。Hinton则指出,AI的数字计算优于人脑的生物计算,这可能导致数字智能取代生物智能。他对未来AI可能控制人类表示深感忧虑。

国际合作与治理

与会专家建议,应像控制核武器一样控制AGI项目的扩散,避免权力集中在少数公司或单一国家手中。他们认为,跨国合作和共同管理AGI项目是构建稳定世界秩序的关键。

《北京AI安全国际共识》

在为期两天的对话中,专家们共同拟定并签署了《北京AI安全国际共识》,提出了人工智能风险红线及安全治理路线图。共识呼吁全球协同行动,避免不受控制的AI发展给人类带来生存风险。

结语

AI技术的快速发展带来了前所未有的机遇,同时也带来了挑战。全球科技领袖的共识和行动表明,确保AI安全、负责任的发展是全人类的共同任务。

文章来源


原文地址: 点我阅读全文
原文作者: 极市平台

© 版权声明

相关文章

暂无评论

暂无评论...