你爱玩的换脸app 正在催生一个失序的世界

你可能并不知道什么是GAN（生成式对抗 络），但你可能在 交 络上转发过明星变老的图片，或者曾看到换脸技术在淘宝售卖的 道，只需几元钱，就能将别人变成色情片主角。实际上，一波人工智能换脸应用的热潮已经出现，我们稍不注意就可能掉入陷阱之中。

本期RUC新闻坊为你梳理这些以假乱真的换脸技术的产生和发展，并搜集国外媒体观点总结这些颠倒身份、穿越时间的图像和视频可能给我们的生活带来什么影响。

FaceApp

(FaceApp官 的App功能介绍，包括改变表情、变年轻、变老等)

据福布斯 道，这款APP诞生于2017年，因最近算法大幅提高而爆火。目前在Google Play的下载量已经超过了1亿，近10天内下载安装次数达450万。此外，它在苹果App Store里的安装下载量也居高不下，App Annie数据显示，它目前在121个国家的iOS商店排名第一。

（Twitter 友用FaceApp为特朗普“换脸”）

这款APP的基本原理是生成式对抗 络（GAN），通过算法提取人物脸部的特征，并根据数据库中的其它图像对照片中非重要特征点进行调整。

FaceApp的火爆掀起了人们对于人工智能技术及隐私保护等问题的热议。由于该应用由俄罗斯人开发，美国政坛高度紧张，民主党的全国委员会发出预警，警告2020年民主党总统竞选团队不要使用该换脸应用，还有政客建议FBI介入调查。

Deepfake

Deepfake是一项人工智能换脸技术，适用于修改图片和影像，可以实现人脸的移花接木。今年年初在 络上广泛传播的朱茵变杨幂的换脸视频就是通过这种技术生成的。当中国 民还沉迷于利用Deepfake技术制作鬼畜视频的时候， Deepfake已经作为一种负面议题在国外掀起了滔天巨浪。

2017年，一名叫“Deepfake”的用户在美国Reddit论坛上传了多段“嫁接”好莱坞女明星脸的色情视频，引发 民热烈讨论。之后，开源的代码便如同火种一般，让曾经只有专业电影制作机构才能完成的视频换脸变得轻而易举。用户只需要收集目标对象的大量照片就可以使用这些开源的算法制作出假视频。

很快，Deepfake的波及范围就从影视娱乐圈蔓延到美国政坛。去年一段美国前总统奥巴马吐槽特朗普是笨蛋的假视频在Twitter走红。今年5月，美国众议院议长南希·佩洛西的假视频也在 交媒体上广泛流传。视频中，佩洛西如同喝醉了一般，神志不清，说话磕磕巴巴，举止奇怪。这段视频甚至引来了美国总统特朗普的嘲讽。

因为Facebook拒绝删除佩洛西的假视频，马克?扎克伯格也被人恶搞，“他”在其中大谈如何“控制数十亿人泄漏的数据”，而原始素材来自扎克伯格两年前一则毫不相关的视频。

Deepfake的迅速发展严重影响了人们的信息环境，一场“猫和老鼠”的技术追击战就此展开，比如早期研究人员通过人物是否眨眼睛来判断视频是否由Deepfake生成，但现在的Deepfake中人物都能眨眼。

有意思的是，这个生成与识别的过程和Deepfake的原理——上文提到的生成式对抗 络（GAN）也很相似。GAN由一个生成 络与一个判别 络组成。生成 络则要尽可能地欺骗判别 络，判别 络的目的是将生成 络的输出从真实样本中尽可能分辨出来，两个 络相互对抗、不断调整参数，直到判别 络无法判断生成 络的输出结果是否真实。

外媒关注焦点

AI换脸应用在国内引起的讨论还较少，但技术的传播是没有国界的。为了更深入探讨换脸技术可能给生活带来的影响，我们参考了Deepfake出现更早、案例更多的国外，看看国外媒体是怎么看待换脸产生的问题的。

1、换脸技术威胁政治和商业

不少媒体关注换脸技术可能会损害美国政治环境，给民主造成威胁。据CBS 道，美国在1月发布的一份全球威胁评估 告中警告称，Deepfake可能会成为扰乱2020选举的策略之一。“山寨”奥巴马骂特朗普是“彻头彻尾的混蛋”足以影响本已混乱的政治讨论，更不用说一段“山寨”美国总统对某国宣战的视频会引起怎样的巨变。

（奥巴马的Deepfake视频截图）

美国众议院民主党成员Yvette Clarke认为，Deepfake的影响并不仅限于选举，它甚至可以改变经济和法律体系的结构：法院需要重新审视很多图像或视频证据的效力；而扎克伯格的Deepfake视频如果被恶意炒作，可能会给企业造成巨大经济损失。Fast Company 站也指出，“蒂姆?库克”与某人就iPhone销量下滑进行私人谈话的假视频，能在几秒钟内让股市蒸发数十亿美元。

《卫 》这样形容Deepfake造成的影响：在很多互联 视频中，人们正做着他们从未做过的事情，真实的人，真实的脸，接近真实的画面，但这是完全不真实的事件。

《卫 》还在 道中引用了AI伦理和法律方面的教授Sandra Wachter的观点，她认为很多对科技的恐惧都是夸大其词，但Deepfake不一样，“并不是说假视频或假信息从未有过，而是假信息的复杂程度、生产难度和速度、以及传播的范围都达到了新的水平。”

《麻省理工科技评论》也指出，早在AI出现之前，操纵媒体的现象就已经出现了，但算法让这些操纵更加普遍且更难被发现。

除了Deepfake换脸技术外，媒体也对FaceApp存在的隐私风险给予关注。据《纽约时 》 道，在7月17日的一封信中，纽约州民主党参议员Chuck Schumer要求联邦调查局和联邦贸易委员会对FaceApp进行调查，理由是安全、数据保存和透明度方面的“严重问题”。他在信中指出，“如果美国公民的敏感个人信息被提供给一个频频对美国发起 络攻击的敌对外国势力，那将是非常不安的。”

2、换脸技术对女性的伤害

《华盛顿邮 》注意到，涉及男性的Deepfake视频几乎都是搞笑风格，而涉及女性的主要是色情视频，这暴露出对女性的性物体化在人工智能技术下变得更加严重。

更关键的是，Deepfake刚出现时主要针对女明星，但随着技术的进步和普及，普通女性也成为了目标。只需收集一个人大量的面部信息和一段性爱视频，就能“移花接木”，达到满足自己或 复女性的目的。

《赫芬顿邮 》采访了六名Deepfake的女性受害者，她们的照片未经同意就被置入色情视频，其中一位表示，“用Photoshop处理过照片是静态的，而且很容易被识别出是假的。但当视频中是你自己的脸做出反应并移动时，你会感到恐慌，因为你无法控制别人如何使用你的形象。”

VICE 站也发现，新推出的DeepNnude是专门针对女性研发的，即使是输入一个男人的照片，该软件也只生成女性裸体的图像，因为应用只对女性的裸照进行了算法训练。

3、如何减少技术的负面影响

The Verge 站在采访技术专家后指出，尽管部分识别Deepfake的研究通过追踪名人独特的面部动作，比如撅嘴唇、扬眉毛等，大幅提高了准确度，但人工智能的精进为两方都提供了便利。也就是说，每一项检测Deepfake的研究都为提高Deepfake模仿质量提供新的机会，生产和识别将成为一场无休止的对抗。另一方面，尽管最新的模型准确度高达97%，即使完美部署在各大平台上依然会存在3%的漏 假视频，考虑到互联 视频的庞大体量，这部分可能造成的危害仍然是个大问题。

人权组织Witness的项目经理Sam Gregory在《麻省理工科技评论》中建议，为Deepfake提供工具的公司和研究人员也必须投资到对策研究之中，同时 交媒体和搜索公司应该将这些对策整合到平台中。

Deepfake法案的顾问Mutale Nkonde还督促监管者出台相应措施，“除非政府找到方法保护消费者的权利，像Deepnude这样的的应用会越来越泛滥。”