中国发布《生成式AI安全基本要求》,涵盖训练数据、生成内容等

AI最新资讯6个月前发布 tree
73 0 0

今日应用


今日话题


中国发布《生成式AI安全基本要求》,涵盖训练数据、生成内容等
中国发布《生成式AI安全基本要求》,涵盖训练数据、生成内容等
 

重点标签 生成式人工智能数据安全模型安全国家标准AIGC开放社区

文章摘要


全国网络安全标准化技术委员会发布了《网络安全技术 生成式人工智能服务安全基本要求》征求意见稿,旨在加强生成式人工智能(AI)的安全性。意见稿分为三部分,包括标准文本、意见汇总处理表和编制说明。标准文本特别关注训练数据和模型的安全要求,确保AI服务在网络安全、数据安全、个人信息保护等方面的安全性。

数据来源安全方面,服务提供者需进行数据来源的安全评估,确保采集的数据中违法不良信息不超过5%。训练数据应来源多样,包括不同语言和类型,并合理搭配境内外数据源。使用开源、自采或商业数据时,都应有相应的授权或合同,并确保数据可追溯。

数据内容安全上,所有训练数据在用于训练前都应进行过滤,去除违法不良信息。服务提供者应有知识产权管理策略,建立投诉举报渠道,并在用户服务协议中明确知识产权相关风险和责任。对于包含个人信息的数据,必须获得个人同意或符合法律规定。

模型安全要求包括模型训练、输出、监测和软硬件环境等方面。模型训练时,生成内容的安全性是评价指标之一,需定期进行安全审计。模型输出应提高准确性和可靠性,对不当问题应拒绝回答,并按要求标识生成内容。模型监测要防范恶意输入攻击,并建立常态化监测和应急管理措施。软硬件环境方面,要评估供应链安全,隔离训练和推理环境,确保数据安全

此标准是对2023年7月发布的《生成式人工智能服务管理暂行办法》的细化,展示了国家对创新技术的重视和对应用安全的保障。AIGC开放社区将关注此标准的进一步发展和实施情况。

文章来源


原文地址: 点我阅读全文
原文作者: AIGC开放社区

© 版权声明

相关文章

暂无评论

暂无评论...