语音 交软件安全吗？腾讯小米字节快手等被约谈

在声音 交与短视频及直播愈发火爆的当下，如果一个陌生人突然顶着你的声音与脸出现在 络端，你的惊讶程度会否大过对自身安全的担忧？

3月18日，据中国 信办官方 站消息，针对近期未履行安全评估程序的语音 交软件和涉“深度伪造”(Deepfake)的技术的应用，国家互联 信息办公室、公安部指导北京、天津、上海、浙江、广东等地方 信部门、公安机关依法约谈映客、小米、快手、字节跳动、鲸准数服、云账户、喜马拉雅、阿里巴巴、 易云音乐、腾讯、去演等11家企业，督促其按照《 络安全法》《具有舆论属性或 会动员能力的互联 信息服务安全评估规定》等法律法规及政策要求，认真开展安全评估，完善风险防控机制和措施，并对安全评估中发现的安全隐患及时采取有效整改措施，切实履行企业信息内容安全主体责任。

所谓“深度伪造”（Deepfake），也被译作“深度造假”，是计算机“深度学习”（Deeplearning）和“伪造”（fake）的组合，出现于人工智能和机器学习技术时代，通过自动化手段、尤其是人工智能算法技术进行智能生产、操纵、修改数据，实现媒体传播行为的一种结果。直白来讲就是在图片和声音中输入机器学习算法，进行“面部操作”（face manipulation），将一个人的脸部轮廓与表情转移至其他人脸上，同时利用对声音的处理制造出以假乱真的视频，大多数深度伪造都依托于名为生成式对抗 络（GANs）的深度学习技术。

根据《具有舆论属性或 会动员能力的互联 信息服务安全评估规定》要求，出现具有舆论属性或 会动员能力的信息服务上线，或者信息服务增设相关功能；使用新技术新应用，使信息服务的功能属性、技术实现方式、基础资源配置等发生重大变更；用户规模显著增加等情形，互联 信息服务提供者应当自行开展安全评估，对评估结果负责，并向 信部门和公安机关提交 告。 信部门和公安机关根据对安全评估 告的书面审查情况，认为有必要的，应当依据各自职责对互联 信息服务提供者开展现场检查。

未来国家互联 信息办公室、公安部将继续指导各地 信部门和公安机关加大巡查检查力度，督促属地互联 企业严格遵守相关法律法规，积极主动履行安全管理义务，切实履行企业主体责任，共同维护 络传播秩序，营造良好 络生态。

此前，语音 交软件Clubhouse 在全球范围内的火爆既引发同类产品的模仿追逐，也引发行业对声音 交安全性的思考。2019年夏天，一段似乎是“马克·扎克伯格”本人的假视频在Instagram上传播甚广，该“扎克伯格”在视频中声称已“完全控制了数十亿用户的数据，掌握了他们所有的秘密”。后经调查后发现这是一个艺术恶搞项目，是为指出AI换头技术和深层伪造(Deepfake)的危害，而非蓄意传播的虚假信息。

另外，近期多家短视频平台上“蚂蚁牙黑”的换脸恶搞视频火爆刷屏，传播至抖音、快手、微博、朋友圈，该特效技术可以将人物图片同框一起魔性起舞。该换脸特效最初源自一款名为Avatarify的AI变脸软件。今年3月2日，Avatarify已在App Store中国区下架，官方并未说明下架原因。除了Avatarify外，Deep Nostalgia与ZAO等平台也因AI换脸应用引发争议，其背后原因均涉及DeepFake技术的以假乱真与面部识别带来的个人隐私泄露及滥用。