今日应用
今日话题
ICLR 2024 | 连续学习不怕丢西瓜捡芝麻,神经形态方法保护旧知识
重点标签 脑启发计算、神经形态芯片、连续学习、赫布学习、SNN
文章摘要
北京大学林宙辰教授团队提出了一种新的基于赫布学习的正交投影的连续学习方法HLOP,用于解决脉冲神经网络(SNN)在持续学习新任务时对旧任务的灾难性遗忘问题。
HLOP通过神经网络的横向连接以及赫布与反赫布学习提取神经元活动的主子空间,并对突触前神经元的活动迹进行投影,实现了连续学习中对旧知识的保护。
该方法首次展示了正交投影的思想能够在神经元运算中实现,并且可以与各种基于突触前神经元活动迹的SNN训练算法灵活结合。
实验结果表明,HLOP在多种连续学习实验设定下均有效,超越了此前的方法,并展示了构建高性能的连续学习神经形态计算系统的潜力。
论文被机器学习顶会ICLR 2024接收。
文章来源
原文地址: 点我阅读全文
原文作者: 机器之心
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...