近期，针对部分语音 交软件和涉“深度伪造”技术的应用未履行安全评估程序，国家互联 信息办公室、公安部指导各地 信部门、公安机关依法约谈了11家企业。
点名：国家 信办约谈涉“深度伪造”技术应用企业
11家互联 企业涉语音 交软件和“深度伪造”技术被约谈。
3月18日，国家互联 信息办公室发布通告称，为加强对具有舆论属性或 会动员能力的互联 信息服务和相关新技术新应用的安全管理，近日，国家互联 信息办公室、公安部指导各地 信部门、公安机关加强对语音 交软件和涉“深度伪造”技术的互联 新技术新应用安全评估工作。
针对近期未履行安全评估程序的语音 交软件和涉“深度伪造”技术的应用，国家互联 信息办公室、公安部指导多地 信部门、公安机关依法约谈映客、小米、快手、字节跳动、鲸准数服、云账户、喜马拉雅、阿里巴巴、 易云音乐、腾讯、去演等11家企业，督促其按照《 络安全法》《具有舆论属性或 会动员能力的互联 信息服务安全评估规定》等法律法规及政策要求，认真开展安全评估，完善风险防控机制和措施，并对安全评估中发现的安全隐患及时采取有效整改措施，切实履行企业信息内容安全主体责任。
公开信息显示，去演是一款手机照片类App，隶属于深圳市新国都智能有限公司，专注于AI智能视频换脸、自制表情包等服务。
其在应用商店上的简介显示，去演App共有“ai视频换脸”“ai表情包制作”“ai写真换装”三大核心功能，用户可用ai技术一键替换影视综艺人脸、制作专属表情包等，产品特色为“换的像：利用深度合成技术，相似度超过99%”。
乱象：女明星被AI换脸的淫秽视频在 络打包出售
AI换脸软件爆红，其背后的“深度伪造”技术实际上暗藏多种风险。
近日，一段配以“蚂蚁呀嘿”魔性音乐的换脸视频在各大 交平台刷屏，提供该特效的AI换脸软件Avatarify也因此火爆全 ，并登顶App Store免费软件下载榜首。不过，几天后的凌晨，该软件在App Store中国区悄然下架。
此前， 称“仅需一张照片，出演天下好戏”的AI换脸软件“ZAO-逢脸造戏”，也曾经历过上线6天，就从爆红到被要求整改的巨大落差。
通过合成视频伪造身份，犯罪分子还可能利用这项技术实施诈骗。2020年的“假靳东”事件正暴露了视频合成技术的风险与隐忧。
3月22日，短视频平台上的一位“东哥”。
但在一个自称为“总导演”、昵称末尾为“东哥”的账 主页上，仍有许多配以文字和音乐的演员靳东影视片段剪辑视频，评论区里仍有不少用户以“姐弟”相称、留言祝福。
规制：政策法规提供明确指引，专家建议 会共治
“深度伪造”技术暗藏风险的背后，这一新技术该如何监管？
例如，2019年11月，国家 信办等部门联合印发《 络音视频信息服务管理规定》，要求利用新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识； 络音视频信息服务提供者发现使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的，应当及时采取相应的辟谣措施。
2019年12月，国家 信办印发《 络信息内容生态治理规定》，明确 络信息内容服务使用者和 络信息内容生产者、 络信息内容服务平台不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。
2021年1月起正式实施的民法典中，第1019条明确规定了肖像权的消极权能，其中“不得利用信息技术手段伪造等方式侵害他人的肖像权”“未经肖像权人同意，不得制作、使用、公开肖像权人的肖像”的规定，被视为将AI换脸纳入到肖像权的保护范围。
在风险防范方面，他建议，最重要的是要实现有效的 会共治。“其中非常重要的一环是企业在上线类似技术模块之前，及时有效的实现自我评估，通 国家有关监管机关，实现风险防治领域的公私合作。在这一点上，《具有舆论属性或 会动员能力的互联 信息服务安全评估规定》具有重要的指引意义和实践操作价值。”
刘硕也认为，防范“深度伪造”技术的滥用需要进行“群防群治”。政府主管部门已给出了明确的指引，除按照政策法规执行外，还可以通过举办大赛等手段鼓励鉴伪技术研发，不断推动成熟的鉴伪技术商业化部署。积极发挥行业组织作用，推动形成行业共识、自律公约等。
刘硕表示，从此次约谈可以看到，我国主管部门加强对新技术风险治理的态度是坚决的； 召科技企业在发展新技术和新业务的同时，也要积极防范风险；此外，也希望大众在追求新奇的同时，不断提高隐私、安全保护意识。
出品：南都新业态法治研究中心
声明：本站部分文章及图片源自用户投稿，如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢！