从一夜爆红到全民声讨,AI换脸应用ZAO究竟做错了什么?

日前,只需要一张正脸照,就可以“玩转经典影视片段”的AI换脸应用 “ZAO-逢脸造戏”(下称“ZAO”)火了。

在ZAO面世之前,Deep*ake、Deep*ude等换脸应用也曾先后引发热议,AI换脸技术的门槛随之大大被降低。

ZAO主打生成“换脸影视剧”,有明星遭“恶搞”向视频平台发函维权,用户只要上传一张自拍照,就能把影视剧或 络视频中的人物换成自己的脸。

比如,小仙女们可以和“现男友”同框,让他给你遮太阳:

而男生们,则可以秒变吴彦祖。

操作简单、换脸逼真、还能圆一把明星梦,引发 友们纷纷尝试。只不过事实往往没有表面看上去那么简单。

通过实测发现,ZAO的换脸步骤十分简单。以视频换脸为例,用户可以任意选择感兴趣的视频素材和要替换的角色,上传一张正面照或直接拍照,并等待视频自动生成即可。

在ZAO软件中,视频素材大多以影视素材为主,不仅有《孝庄秘史》《金粉世家》等经典影视作品,还可以搜到《东宫》、《知否》等热播剧。

另外还有MV、搞笑、“名场面”、 “爱豆同台”等分类。不少用户在使用ZAO制作换脸视频之后,还将视频上传至微信朋友圈、微博等 交平台进行分享。

诸如此类的换脸视频在 上随处可见,还有一些类似的视频曾引发广泛关注。今年2月,一段通过“AI换脸技术”修改后的《射雕英雄传》片段在 上流传,视频中原由朱茵饰演的黄蓉被更换成杨幂的脸。

此外,还有“李现洪世贤换脸”“黄晓明换脸”“冯提莫换脸赵丽颖”、等换脸视频也曾大受 友欢迎。

有卖家兜售“让女星为你脱衣”换脸软件

称三步可换脸

在ZAO走红之前,主打“换脸”甚至“脱衣”的AI应用就已经在越来越常见。

虽然部分卖家以“学习软件”“技术交流”为名,在商品描述中提示“只供娱乐,不能用做非法用途”。但仍有人以“脱衣术”为名,低价兜售“自动脱衣”软件。

换脸应用将面临多重侵权风险

虽然ZAO这类的换脸软件更多的是为了迎合大众的娱乐心理,但此类应用仍存在诸多侵权风险和隐患。

以“影视剧换脸”为例,中国政法大学知识产权研究中心研究员徐新明表示,如果软件开发者没有事先取得相关素材的权利人的许可,可能侵犯相关影视作品权利人所拥有的著作权,包括修改权、保护作品完整权。

“另外,用普通人的脸去代替演员的脸,有可能会造成表演形象的歪曲,这也会涉嫌侵犯表演者也就是演员本人的权利。”

西南政法大学人工智能法学院院长陈亮也表达了相似的观点,据他介绍,2017年12月开始,AI换脸技术的走红就是因为有外国 友将色情明星的脸与知名度高的大众明星的脸进行了更换。“在相关色情视频中的换脸,可能侵犯他人的名誉权;未经本人同意擅自使用其肖像进行换脸,可能侵犯他人的肖像权。”

但仍有业内专家十分看好这项技术。中国 科院知识产权中心教授杨延超表示,包括换脸技术在内的人工智能会对未来影视产业带来很大的影响。

“AI换脸技术是通过机器学习的方式,将事先采集好的人脸数据加上数据计算的方式实现的。未来可能一个明星他不用真人上镜了,只需要把他的面部数据等采集好。”杨延超认为,虽然这项技术可以提高影视生产的效率,但也会一定程度地使观影效果下降。

争议:你要把我的“脸”拿去干嘛?

让人没想到的是,才过了大半天 友们对ZAO的态度就从追捧变成了担心,打算卸载这款APP的也不在少数,而使大家态度180度大转变的是ZAO备受争议的用户协议。

有用户发现ZAO的用户协议和隐私政策都是默认同意的状态,没有勾选按钮。也就是说用户只要想使用ZAO就必须同意用户协议和隐私政策全部内容。

ZAO截图

看不懂没关系,知名微博法律博主 @法山叔 给出了“说人话版”解释:

1、ZAO涉嫌过度攫取用户授权,让你在无形中将自己的肖像权拱手让人,以后你的脸将完全有可能被别人随意使用,变换;

2、ZAO并未获得换脸明星们的肖像权授权,你变脸涉嫌侵权,但当明星认为自己的权利受到侵害时,ZAO将完全有可能将法律的锅全部甩给你,让你自己承担侵权苦果。

也就是说,用户玩着玩着无意中就泄露了自己的隐私,日后还可能还为此背锅。

@法山叔 微博截图

那么问题来了用户在注册时是否明显了解过这一协议?

答案是显然没有。

小编体验后发现,整个注册过程中对上述条款并没有明显提示。而想要找到这份用户协议需要自行在“我的作品“中点开头像,才能找到。

这份风险几乎就是被换脸快乐淹没了。另外,用户可以上传未经肖像权验证的照片这里的肖像权验证是指进行自拍认证,每张未经验证的照片有10次在ZAO上换脸的机会。

AI 换脸视频有可能破解刷脸支付吗?

“ZAO 可能很危险的… 别看你今天玩得开心,过段时间就有可能你的支付宝被盗刷脸了?不过这事儿很难怪 ZAO,谁让你认知浅薄了呢?”8月31日,李笑来在微博上这样说到。

质疑ZAO存在信息泄露风险的不止李笑来,“有手机 ,有面部图像,通过技术合成,犯罪分子可以替你和你的家人通话。”有 友在使用ZAO后这样评价。

外界的担忧并非空穴来风。从ZAO的产品形态来看,在App手机实名注册的情况下,用户需要进行FACE ID的上传和存储,而且考虑到用户要进行 交分享,这就很可能存在隐私信息泄露的风险。

对于这个问题,支付宝公开回应称“目前, 上各类换脸软件有很多,但不管换的有多逼真,都是无法突破刷脸支付的。

“刷脸支付”采用的是3D人脸识别技术,在进行人脸识别前,也会通过软硬件结合的方式进行检测,来判断采集到的人脸是否是照片、视频或者软件模拟生成的,能有效地避免各种人脸伪造带来的身份冒用情况。

此外,在进行人脸识别后,部分用户还需要输入与账 绑定的手机 进行校验,进一步提高了安全性。”

一位业内人士也表示,“用换脸软件盗刷支付在技术上不可行。”

ZAO能火多久?

据称ZAO一夜爆红后,已经吸引了大批风投机构的关注,不过在考虑机会之前,首先需要想清楚的是ZAO能火多久?

七麦数据的统计显示,7月19日,FaceApp一度位居国内App Store免费应用榜第1名,但FaceApp的热度随后迅速下降,截止8月30日,FaceApp在App Store免费应用榜的排名已下滑至600名左右

这也是包括FaceApp这类换脸应用在内的很多爆款应用普遍面临的问题,这些应用往往快速蹿红又快速沉寂。如何延长自己的生命周期,是ZAO目前需要考虑的问题。

而目前来看,ZAO面临的主要挑战,除了用户和监管层面对伦理道德风险隐私保护的担忧,还有产品层面视频版权、肖像权的争议,以及商业模式的困扰。

ZAO产品可以对影视剧片段进行换脸,这可能涉及到影视剧著作权、版权等问题。

2018年3月,原国家新闻出版广电总局下发的《关于进一步规范 络视听节目传播秩序的通知》规定:“坚决禁止非法抓取、剪拼改编视听节目的行为,并严格管理包括 民上传的类似重编节目,不给存在版权问题、内容问题等的剪拼改编视听节目提供传播渠道。”这导致很多影视类改编账 陷入版权纠纷,其中包括知名影视博主谷阿莫。

为了避免版权纠纷,ZAO在素材使用的版权声明中表示:“短视频和表情素材,除了特别声明是ZAO跟合作方进行版权合作的之外,均来自于用户自发的上传,ZAO不享有素材的商业版权。”

尽管ZAO声明不享有素材的商业版权,但并不能完全避免版权纠纷。此前,北京商 曾就谷阿莫版权纠纷采访中闻律师事务所合伙人赵虎,赵虎指出:“在原作的基础上进行二次创作,应该得到原作著作权人的许可,如果未经许可就使用了原作内容,就非常有可能构成侵权。”

由于ZAO产品可以对明星/名人表情包进行换脸,著作权之外,ZAO也需要关注是否涉嫌侵犯明星/名人的肖像权。

此外,ZAO在商业模式方面的挑战也不小,因为看似功能单一的AI换脸背后,是一个十足的烧钱机器。

“当(前)服务器制作量过大,请稍后再试。”8月31日,ZAO火爆朋友圈的第一天,有用户想要生成一段AI换脸视频,却遭遇了服务器繁忙提醒。

据微博认证为“ZAO官方助手”的用户此前一晚在微博上称,“这个月花700万租的服务器,今晚已经消耗1/3了。明天如果继续火爆,我们只能做严格一些的限制。”由此估算,ZAO每天仅服务器的花费可能就超过数百万元,而且随着用户规模的增长,花费还将上升。

据了解,ZAO使用的AI服务器集成了GPU/TPU/FPGA等模块。一位业内人士向《深 》介绍,现在一个标准的 络优化型服务器的费用是每月88元,而GPU计算型服务器最便宜的也需要2928元。

综合自南方都市 、深 、凤凰新闻等

声明:本站部分文章及图片源自用户投稿,如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢!

上一篇 2019年8月1日
下一篇 2019年8月1日

相关推荐