好玩的AI换脸，也可能威胁国家安全？

ZAO可能产生的潜在危险和不安全性，也是人工智能为 会提供产品的同时人们必然面临的挑战。

名为ZAO的AI换脸软件红遍 络，然而好景不长，一夜爆红“ZAO”的微信分享链接目前已经被停止访问了。关于“ZAO”刷屏后所带来的隐私焦虑与风险担忧，仍在蔓延。

实际上，ZAO软件就是一款经改造的换脸APP，2017年发源于美国，称Deepfakes，是深度机器学习(deep machine learning)和假照片(fake photo)的简称(合称)，最生动的称呼是深度(照片)造假。

既然是造假，当然要禁止。它不仅可能产生因个人信息泄露带来的种种不安全，如果涉及犯罪，轻而易举的换脸操作也会让真假罪犯难辨，同时加大司法成本。当然，在一些国家，如美国，换脸还可能成为反恐的梦魇，既可以让恐怖分子很容易通过换脸作案和逃脱，也加大了安全部门反恐的难度。

所有这些问题都是ZAO和相似软件可能产生的潜在危险和不安全性，这也是人工智能为 会提供产品的同时人们必然面临的挑战。因此，如何监管才是最现实和最严峻的问题。

现在ZAO软件就面临着管理者禁与放的困难抉择。而对于换脸，美国欧盟等认为，即便是潜在的威胁，也极其严重，必须先出手防范。

今年1月28日，美国卡内基国际和平基金会专门发表文章《国家如何应对Deepfakes？》，指出，以Deepfakes为代表的换脸技术具有一系列潜在的危害，包括煽动政治暴力、破坏选举、扰乱外交关系、提供虚假证据并干扰司法、实施敲诈等，希望各国明确定义Deepfakes的不正当使用，亟须 会定义什么可以接受，什么不可以接受，这既有利于 会和法律的管理，也有利于 交媒体规范其平台，管理 上内容。

可以看到，对换脸技术的潜在危险极为重视的美国和欧盟现在还没有出台法律予以禁止，只是在进行论证。但迫于压力，美国的Reddit上关于换脸技术的讨论版被删除，换脸技术也在美国被全 封禁，其GitHub开源代码也被清除。