这两天一款现象级的名叫ZAO的的AI换脸软件红遍 络，下载这款软件后，用户可以用自己的脸替换名人、明星的脸，还可制作表情包，出演经典电影，跟偶像飙戏等，从效果看非常逼真，而且面部表情自然，操作简便，很多人玩了一把后，直呼过瘾。
然而好景不长，一夜爆红“ZAO”的微信分享链接目前已经被停止访问了。关于“ZAO”刷屏后所带来的隐私焦虑与风险担忧，仍在蔓延。
火爆的ZAO与潜在的危机
实际上，ZAO软件就是一款经改造的换脸APP，2017年发源于美国，称Deepfakes，是深度机器学习（deep machine learning）和假照片（fake photo）的简称（合称），最生动的称呼是深度（照片）造假。
deepfakes“换脸”视频截图
但是，很多业内外人士马上察觉到ZAO的阴影和潜在的危机与不安全，因为使用这款软件进行换脸后，需要进行眨眼、抬头等各种验证，与刷脸支付采集的脸部信息类似，而且注册平台需要手机 码。
这就可能产生种种不安全，如自己钱包（支付宝、微信和银行卡）中的钱会就如同换脸一样很简单地换（变）成了对方的钱，或被第三方转走。其次，换脸容易，洗刷嫌疑可难，如果涉及犯罪，轻而易举的换脸操作也会让真假罪犯难辨，同时加大司法成本。
当然，在一些国家，如美国，换脸还可能成为反恐的梦魇，既可以让恐怖分子很容易通过换脸作案和逃脱，也加大了安全部门反恐的难度。
ZAO软件苹果商店排行
除此之外，潜在的危险还包括这款软件的一些不利于用户的条款，在用户协议的表述中有：使用这款软件的换脸功能，需要同意授予这款软件及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于：人脸照片、图片、视频资料等肖像资料中所含的肖像权利人的肖像权，以及利用技术对肖像权利人的肖像进行形式改动。
不过，在引发争议后，ZAO修改了其用户协议内容，新增加了“特别提示”。并对最具争议的用户协议第六条第二款中要求用户须授予 ZAO“完全免费、不可撤销、永久、可转授权和可再许可的权利”的字段删除。
所有这些问题都是ZAO和相似软件可能产生的潜在危险和不安全性，这也是人工智能为 会提供产品的同时人们必然面临的挑战。因此，如何监管才是最现实和最严峻的问题。如果说ZAO软件已经造成了实际危害结果，就是治病的范畴，虽要下猛药。但是，现在人们使用ZAO还没有出现问题，只是预感和预测其可能要出问题，因此属于预防的问题。
现在，各种AI软件似乎是防不住，一种方法是，如果预感和预测到AI软件对 会有重大威胁，就应全面禁止。还有一种方法是，现在还没出问题，可以放行（绝非放任），等出了问题再来解决。
ZAO图片截图
Deepfakes泛滥，欧美如何应对？
现在ZAO软件就面临着管理者禁与放的困难抉择。由于有不同的国情和环境，也许对换脸技术的敏感度和监控方式是不一样的。对于换脸，美国欧盟等认为，即便是潜在的威胁，也极其严重，必须先出手防范。
2019年1月28日，美国卡内基国际和平基金会专门发表文章《国家如何应对Deepfakes？》，指出，以Deepfakes为代表的换脸技术具有一系列潜在的危害，包括煽动政治暴力、破坏选举、扰乱外交关系、提供虚假证据并干扰司法、实施敲诈等。
其实，这篇文章并没有提出具体的建议，但是一个重要的建议是，希望各国明确定义Deepfakes的不正当使用，亟须 会定义什么可以接受，什么不可以接受，这既有利于 会和法律的管理，也有利于 交媒体规范其平台，管理 上内容。
Deepfakes换脸技术
可以看到，对换脸技术的潜在危险极为重视的美国和欧盟现在还没有出台法律以禁止换脸技术，只是在进行论证。迫于压力，美国的Reddit上关于换脸技术的讨论版被删除，换脸技术也在美国被全 封禁，其GitHub开源代码也被清除。
显然，这只是 交 站出于压力的一种行为，如果没有明确的法律，类似ZAO这样的换脸技术很快就会大行其道，而且，利用Deepfakes的做法还会越来越扩大化和恶俗化。
ZAO图片要求
不仅如此，Deepfakes还可根据算法生成色情内容，成为DeepNude，随意换上一位明星的头像，就可以让其脱光裸露。
当然，美国有也有个别州的法律监管比较快，但是仅限于使用Deepfakes与“复仇色情”相关的内容和行为，所谓复仇色情是指，有人基于种种原因在 上发布女性（也有少数是男性）的裸照，但未经图片主人的同意，目的是对当事人进行 复、羞辱和伤害，而且这些照片很难从互联 上删除。因此，一些国家出台了“复仇色情法”，以打击这种行为。
目前美国弗吉尼亚州正式实施扩大了“复仇色情法”，严禁经过深度伪造的内容，包括制作或操纵视频和使用机器学习制作的图像等，利用Deepfake制作的黄色图像也包括在内。如果违反该法则，最高可判12个月监禁，罚款2500美元。这一法律已于2019年7月1日实施。
扎克伯格视频被篡改
参考文献：
1.AI换脸APP刷屏朋友圈 爆火背后有哪些商机、隐患？2019-09-01，央广
http://www.sohu.com/a/337878884_123753?spm=
smpc.news-home.pol-subject-news 2.How Should Countries Tackle Deepfakes?CHARLOTTE
STANTONhttps://carnegieendowment.org/2019/01/28/how-should-countries-tackle-deepfakes-pub-78221
3.House holds hearing on”deepfakes” and artificial intelligence amid national securityconcerns，JUNE 132019
https://www.cbsnews.com/news/house-holds-hearing-on-deepfakes-and-artificial-intelligence-amid-national-security-concerns-live-stream/
声明：本站部分文章及图片源自用户投稿，如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢！