一夜之间，一个名叫ZAO的应用火遍 交 络。
ZAO的玩法并无甚特别，甚至说很单一——用户可通过上传照片（通常是自己的照片），用AI换脸功能，将短视频中的演员换成自己的脸，然后分享朋友圈， 称“可以和自己的偶像同框”。因短时间内大量用户涌入，31日当天该APP还显示“服务器制作量过大，请稍候再试。”
但同时，这个APP及其用户信息“绑架条款”引起了对信息安全的恐慌。特别是作为支付工具的人脸识别一旦被破解，用户的金融信息安全堪忧。
时逢2019世界人工智能大会，在8月31日下午的“信息安全的AI时代”的圆桌讨论中，来自监管和业界的人士对换脸APP乃至脸部识别应用的风险程度各抒己见。
DataVisor维择科技中国区总经理吴中说：AI其实是一个工具，可以在好人手里、也可以在坏人手里。从数据安全的角度来看，未来信息其实会更合规。以前会收集很多的数据，但是现在随着《 络安全法》、GDPR（通用数据保护条例）这些起来之后，我们应该会进入一个更合规的阶段。
是的，同样的案例并不是第一次发生，我们需要对此保持足够的警醒，而不是恐慌。去年五月，《 会科学 》就编译过《大西洋月刊》的文章，讨论“deepfakes”兴起的假视频技术对于 会可能造成的冲击。今天，我们一起来重温此文。
图片 | 络
被眼睛欺骗的时代
在互联 上某些不为人知的角落，人们有可能会发现《权力的游戏》或《哈利波特》中的女主角正在“从事”各类性活动。这些情色片主角的面容正是这几位著名演员，但脖子以下的部分却另属他人。人工智能技术施用移花接木之法，把那些人们熟悉的面容几乎毫无缝隙地植入了这些色情作品之中。这正是互联 时代最残酷、最具侵略性的身份盗用行为之一。说它残酷，是因为普通人很难发现这一骗局。
互联 早已埋下了“后现代地狱”的种子。从“标题党”到俄罗斯机器人在脸书上发布影响大选的假消息，大规模操纵行为已经成了媒体的常态。互联 本就是个真假是非难辨之地，匿名往往导致粗劣和混乱，骗子们能轻而易举地盗取任何人的肖像。从这个意义上来说，“deepfakes”的兴起标志着互联 的历史到达了一个顶点——而这一切可能还只是未来将发生之事的一个低级版本。
弗拉基米尔·纳博科夫曾写道，真相只存在于引 里。他极具讽刺意味地解释了相对认识的基本概念：当你和我注视着同一个事物时，如何知道我们看着的是同一样东西？尽管如此，基于对推理和经验的信任，媒体、政府和学术界已经帮助人们形成了关于如何描述世界的共识，虽然近些年来这一脆弱的共识正逐渐消解。 交媒体把人们带进了一个新的时代，使个人能够很容易接触到满含偏见的虚假信息。很快，人们就将迎来一个无知的时代，被自己的眼睛所欺骗。换句话说，人们离事实的崩塌也就为时不远了。被技术改变的视频最终会破坏人们对共同现实理念的认同，从而再次将 会个体引向茫然无措的原子化状态。
事实饥渴症
这就把我们带到了问题的症结所在。人们都相信眼见为实，这是很自然的。而这种与生俱来的趋势正是即将到来的假视频时代将要利用的。
警惕对现实的远离
问题并不仅仅只是谎言。假视频将使得人们对自己看到的一切产生怀疑，而政治家和出版商则会利用这种怀疑。一旦被人拍下自己的不端行为，政客就会宣称这只是伪造的视频。
假视频将彻底摧毁我们对具有普遍意义的事实的信任。正如谷歌公司科学家伊恩·古德费洛（Ian Goodfellow）所说的，“从历史的角度来说，我们曾经还能够把视频看作是过去发生过的事情的铁证，这真是有点侥幸。”
而假视频也并非技术专家们向着远离现实的方向迈出的最后一步。这一愿景的典范是虚拟现实技术。虚拟现实技术的根本目的是创造一种全面的幻象，让人感觉身处异地。戴上VR眼镜，人们的感觉将受到欺骗，认知将遭到颠覆。电子游戏早已开始将带着护目镜和手套的玩家带到一个完全不同的世界，尽管它们极具吸引力，但仍不是沉浸式的。而虚拟现实技术则能使玩家完全沉浸其中：他能看到自己的虚拟化身看到的东西，感受到它能感受到的东西。
随着虚拟现实技术的不断发展，虚拟现实中的生活将变得越来越有趣。虚拟现实操纵用户的能力可能会让用户本身感到混乱，困惑什么是真实。技术创新的可能性也将不断扩展和提升。但是，如果围绕虚拟现实技术的气泡越吹越大，它就将成为一个巨大的产业，出于获取利益的需要而使消费者上瘾，甚至很有可能被一到两个超级公司控制。脸书公司收购专门从事虚拟现实技术研发的Oculus公司，其背后的动机就十分耐人寻味。
也许 会终将找到应对这些变化的方法。但是到目前为止，各国政府在应对由新技术发展带来的 会挑战方面进展缓慢。确定到底什么是事实，这不仅是一个认识上的问题，也是一个政治上的问题。很少有人有足够的时间或能力识别精心伪造的假消息和假视频。人们只能寄希望于那些拥有丰富知识经验的权威机构： 纸与大学。此外，那些认识到这一危机严重性的科技巨头公司也可能扮演这一角色。毕竟，这些公司控制着新闻和信息的最主要入口，因而能够轻易地阻断那些虚假视频的传播。但是，要充分发挥这一作用，它们必须担负起更多目前尚未担负的重任。
2016年，由于俄罗斯利用脸书影响美国大选的传闻，特斯拉公司创始人埃隆·马斯克（Elon Musk）公开了他对人生的理解。他谈到了一个源自牛津哲学家的理论，认为我们实际上生活在计算机模拟之中，如同科幻电影或视频游戏中的角色一样。马斯克在一次会议上说道：“我们身处于‘基本现实’（base reality）的可能性是数十亿分之一。”如果主导人们信息并塑造未来的行业领导人甚至都不能承认现实的存在，我们是否还有希望挽回它？
会科学
做优质的思想产品
www.shekebao.com.cn
声明：本站部分文章及图片源自用户投稿，如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢！