Hinton万字访谈：用更大模型「预测下一个词」值得全力以赴

今日应用

蛙蛙创作助手——超级AI智能写作助手

蛙蛙创作助手——超级AI智能写作助手

今日话题

Hinton万字访谈：用更大模型「预测下一个词」值得全力以赴

 

重点标签 Geoffrey Hinton、人工智能、机器学习、神经网络、多模态学习

文章摘要

图灵奖得主Geoffrey Hinton在一次访谈中分享了他对人工智能领域的深刻见解。Hinton认为大型语言模型通过寻找不同领域的共同结构来进行编码，能够压缩信息并形成深层次的理解，这是创造力的来源。他还提到，随着模型规模的增加，模型的推理能力也将变得越来越强。Hinton回忆了他与Ilya的合作，强调了Ilya对增大模型规模的直觉预见。此外，Hinton探讨了神经网络的早期发展，他与合作者的互动，以及他对大脑如何工作的长期兴趣。他提出了关于智能系统可能拥有情感的观点，并分享了他对大脑运作方式的持续好奇。

Hinton讨论了大型模型的技术路线，强调了多模态学习的重要性，认为多模态模型将占据主导地位，因为它们能够更有效地从视觉和触觉等多种模态中学习。他还讨论了智能系统的意识与情感，提出智能系统也可能体验情感。在硬件方面，Hinton赞赏了数字系统在共享和扩散知识方面的能力，这比人类语言交流的效率更高。他还提出了对乔姆斯基语言学理论的挑战，认为复杂的语言学习不一定依赖于先天的结构。

Hinton也分享了他的研究方法，即寻找一个广泛认同但感觉上有些问题的观点，然后研究这个问题，试图证明它是错误的。他认为这种方法有助于发现新的知识。最后，Hinton表达了他对大脑如何获取梯度的持续好奇，这是他未来研究的方向。他还提到了AI在医疗保健领域的潜力，以及对AI发展速度的国际性影响的看法。

文章来源

原文地址: 点我阅读全文
原文作者: 机器之心