今日应用
今日话题
上着课呢,老师脸皮突然被「掀起来」了,DeepFake这次搞笑了
重点标签 AI换脸、网课、DeepFake、隐私保护、技术争议
文章摘要
AI换脸技术被滥用于网课
机器之心报道,一位学生花费5800元购买的网课中,发现老师在讲解时面部出现异常,经调查发现是使用了AI换脸技术。该技术基于深度学习方法合成人体图像,此次事件中,老师选择使用AI换脸以保护隐私或因公职身份不便露面。然而,这种做法引发了关于消费者权益、教育行业诚信和技术伦理的广泛讨论。
消费者权益受损
学生在购买网课时,对名师的信赖和追捧是其愿意支付高价的重要原因。然而,AI换脸技术的使用使得教师身份难以确认,侵犯了消费者的知情权和选择权。此外,一些教育机构为吸引学生,可能会为普通老师打造虚假的光环,如“名校毕业”、“多年执教毕业班”等,进一步损害消费者权益。
技术争议与法律问题
AI换脸技术的应用引发了诸多争议,包括隐私安全、虚假信息泛滥、名誉权、肖像权和知识产权等法律问题。例如,2017年英伟达基于生成对抗网络(GAN)创建合成人脸图像,随后Reddit用户“DeepFakes”使用该技术制作色情视频,引发广泛关注和质疑。2019年,陌陌推出的ZAO换脸应用因存在滥用隐患而下架。
伪造检测技术的发展
为应对AI换脸技术可能带来的风险,一些研究提出了伪造检测方法,旨在检测图像、视频等媒体数据是否为AI合成。早期的伪造检测方法主要关注单个模态,如图像或音频的真假检测。然而,这些方法在场景泛化性能上有限,无法同时检测多个模态的真伪。为此,多模态鉴伪方法应运而生,如中电金信联合复旦提出的参照辅助的多模态鉴伪方法(R-MFDN),利用丰富的身份信息挖掘跨模态不一致性进行伪造检测。
总结
此次网课老师AI换脸事件再次凸显了AI技术在教育领域的应用风险,以及对消费者权益和技术伦理的挑战。教育机构和监管部门应加强对AI技术的规范和监管,确保技术的合理应用,保护消费者权益,同时促进教育行业的健康发展。
文章来源
原文地址: 点我阅读全文
原文作者: 机器之心