ICLR 2024 | 连续学习不怕丢西瓜捡芝麻,神经形态方法保护旧知识

AI最新资讯3个月前发布 tree
37 0 0

今日应用


今日话题


ICLR 2024 | 连续学习不怕丢西瓜捡芝麻,神经形态方法保护旧知识
ICLR 2024 | 连续学习不怕丢西瓜捡芝麻,神经形态方法保护旧知识
 

重点标签 脑启发计算神经形态芯片连续学习赫布学习SNN

文章摘要


北京大学林宙辰教授团队提出了一种新的基于赫布学习的正交投影的连续学习方法HLOP,用于解决脉冲神经网络(SNN)在持续学习新任务时对旧任务的灾难性遗忘问题。

HLOP通过神经网络的横向连接以及赫布与反赫布学习提取神经元活动的主子空间,并对突触前神经元的活动迹进行投影,实现了连续学习中对旧知识的保护。

该方法首次展示了正交投影的思想能够在神经元运算中实现,并且可以与各种基于突触前神经元活动迹的SNN训练算法灵活结合。

实验结果表明,HLOP在多种连续学习实验设定下均有效,超越了此前的方法,并展示了构建高性能的连续学习神经形态计算系统的潜力。

论文被机器学习顶会ICLR 2024接收。

文章来源


原文地址: 点我阅读全文
原文作者: 机器之心

© 版权声明

相关文章

暂无评论

暂无评论...