今日应用
今日话题
昂贵LLM的救星?Nature新研究提出新型忆阻器,比Haswell CPU高效460倍
文章摘要
在近期的科技进展中,忆阻器的研究和应用成为了降低大型语言模型(LLM)使用成本的关键方向之一。忆阻器,作为与电阻器、电容器、电感并列的基础电子元件,因其非易失性特性而备受关注。近期,Nature 发布了一篇论文,提出了一种新型的“线性对称的自选择式 14 bit 的动力学分子忆阻器”,其在模拟计算和信噪比方面展现出了显著的性能优势。
该论文的核心贡献在于提出了一种分子忆阻器,它在核心矩阵运算上能实现远超电子器件效率的 14 bit 模拟计算,并且信噪比超过 73 dB,能耗量比电子计算机低 460 倍。这一成果不仅在理论上具有创新性,而且在实际应用中展现出了巨大的潜力。通过构建 64×64 的分子忆阻器交叉开关矩阵,研究团队成功执行了向量-矩阵乘法(VMM)实验,证明了其在非结构化数据处理上的有效性。
此外,研究团队还展示了使用该忆阻器进行矩阵-矩阵乘法运算的能力,这一运算是几乎所有 AI 和机器学习算法的基础。实验结果表明,该忆阻器结构在执行矩阵乘法时的效率远超传统电子计算机,且信噪比达到了 73-79 dB,这是一个非常重大的进步。
这项研究的意义在于,它为 AI 硬件的发展提供了新的方向,有望将 LLM 从高功耗高成本的困境中解脱出来。如果未来 AI 大模型能够运行在基于此类技术开发的硬件上,AI 的使用成本将大幅下降,从而推动 AI 技术的更广泛应用。同时,这也为神经形态计算领域带来了新的突破,为构建更高效、更节能的计算系统提供了可能。
文章来源
原文地址: 点我阅读全文
原文作者: 机器之心
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...