AI换脸软件科技的背后带来的隐忧:生物信息收集和视频伪造危害

近期最火的的AI换脸技术,很符合人们互联 最爱玩的就是新、奇、特。像ZAO这样的换脸App在国内外 交 络上的走红也在意料之中的。

用户从下载App,到生成量身定制、有强烈的代入感的视频、音频,短则几秒钟、长则数十分钟,既有趣也操作简单,只要技术过关,想不流行都难。这就好比平时只买大众服装品牌的人,突然有机会免费尝试一下高级订制的服务,短暂体验明星的待遇,自然抵挡不住诱惑。

然而这其实是一场复杂的魔鬼交易,只是包括App的开发者在内,并没有意识到魔鬼在谁、隐藏在哪里。评论者多聚焦于对用户协议或隐私政策的批评,或者对知识产权、肖像权的侵犯,这当然有道理,但这些权利义务失衡的条款及侵权行为被司法和监管纠正并不困难,在现有法律框架下也有成熟的方案。换脸、换声这类APP最大的问题在于其大规模收集的生物识别信息如果发生泄露及滥用,会造成各种欺诈和造假。 会各界应对此问题高度重视,加强监管。

生物识别信息:相当于隐私,千万不能失去。

静态或动态的人脸信息(ZAO都会向用户收集)以及指纹、声纹、虹膜属于生物识别信息,在各国的立法中通常都属于个人敏感信息。其之所以敏感,在于天然能够真正识别个人身份且终身无法更改(毁容之类的特例除外),而且除了指纹外容易以非接触的方式收集。从某种程度上说,这些生物识别信息真正定义了我们每个人。

生物识别信息的不同类别,又有所区别,其中人脸信息的公开性更强,也更容易被收集,目前在国际上加强监管的趋势也更明显。多国都在开始进行立法,强化对人脸信息收集以及识别技术应用场景的约束。

生物识别信息的收集和利用,具有很大的不对称性,个人得到的可能仅仅是一个带有娱乐性的视频片段,收集者却掌握了个人最基础的信息。技术都很难做到万无一失,但生物识别信息一旦泄露,真的是“一失万无”,缺乏救济渠道。邮箱密码、电话 码泄露了,还可以更改,但人脸、声纹、虹膜等信息泄露后,却没有办法进行更改,个人几乎终生暴露在被攻击和骚扰的风险中。

加强监管也不意味着阻碍技术进步,而是在风险较高的领域、场景进行更充分的防范,这样也不会让技术本身被污名化,引发更高的监管压力。在源头上就要加以限制,必须考虑收集信息的目的是否正当、必要,不能“为了芝麻,要个西瓜”。

对于生物识别信息的收集者,是否应当采取备案或登记制度,人脸识别技术在哪些特定场景下应被禁止,以保护个人的基本权利,都是很值得讨论的话题。

生物识别信息需要重视,也和快速发展的deepfake技术有关。当不可修改的生物识别信息遇上几乎可以以假乱真的视频、音频伪造技术,对很多普通人都是灾难。

大规模收集生物识别信息和Deepfake,本身都是现有技术的自然延申,可二者产生的影响可能是深远、不可逆的。对于ZAO这样的换脸APP,应该更严肃地对待、更严格地监管。这也是居安思危,保护个人隐私的出发点!

声明:本站部分文章及图片源自用户投稿,如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢!

上一篇 2019年8月1日
下一篇 2019年8月1日

相关推荐