ICLR 2024 | 联邦学习后门攻击的模型关键层

AI最新资讯2个月前发布 tree
34 0 0

今日应用


今日话题


ICLR 2024 | 联邦学习后门攻击的模型关键层
ICLR 2024 | 联邦学习后门攻击的模型关键层
 

重点标签 联邦学习后门攻击安全序隐患后门关键层算法

文章摘要


联邦学习后门攻击
联邦学习允许多个参与方在保护数据隐私的前提下共同训练机器学习模型。然而,由于服务器无法监控参与者的本地训练过程,存在安全序隐患,如后门攻击。

后门攻击关键层的发现
文章发现后门攻击的植入与部分神经网络层的相关性更高,这些层被称为后门攻击关键层。

攻击方法与实验
提出了一种层替换方法来识别后门关键层,并基于这些层提出了一种绕过防御算法检测的攻击方法。实验在CIFAR-10和MNIST数据集上验证了该方法的有效性,揭示了目前三类防御方法的漏洞。

作者介绍
Zhuang Haomin,本科毕业于华南理工大学,曾在路易斯安那州立大学IntelliSys实验室担任研究助理,现于圣母大学攻读博士学位。主要研究方向为后门攻击和对抗样本攻击。

文章来源


原文地址: 点我阅读全文
原文作者: 机器之心

© 版权声明

相关文章

暂无评论

暂无评论...