在第二段视频上,宇航加了一段按语:“#现男友为我遮太阳,黑产大哥们别拿我去过人脸啊……再发一个卸了。”
宇航说,她在朋友圈中发现了这款名叫“ZAO”的神奇换脸软件,但不是通过其他人分享的换脸视频发现的,而是通过几篇讨论该软件信息安全问题的文章发现的。
另一位用户咩咩是一位爱玩儿、充满少女心、喜欢表达自我的女孩,她在朋友圈发完一段换脸视频后,又立刻删掉了。
咩咩也是从朋友圈中发现的这款神器,她自嘲道:“和正常的那种乐于出卖隐私换取便利的普通用户一样。”因此,根本没有留意《用户协议》与《隐私协议》,因而对“霸王条款以及潜在的危机的不确定性”后知后觉。
咩咩说:“如果我仔细看了这条条款,以及知道有这种危机的不确定性,我不会玩。”但是她补充说,不看这类条款是一直以来的习惯。
咩咩并不担心信息泄露之后,被拿去制作色情视频,她说:“反正不是我,看别人的身体和看我的脸,本质上还是看我的脸,和我平时出门有什么差别?”她也不担心被用于刷脸支付,她对目前的3D识别充满信心。“只是授予肖像权背后的不确定性令人恐惧。”
该限制本是为了防止用户上传的面部信息被他人不合理利用,但很多用户担心,“ZAO”平台本身是否有可能对这些用户资料进行不合法的利用。
用户的担心并非没有道理。
在更早的2017年,Reddit论坛用户就已经利用AI换脸技术,将盖尔?加朵等好莱坞明星的脸,嫁接到色情电影中,并公开发布在 络上,后来该用户还将换脸技术的源代码开放,引来骂声一片。
一开始只是明星“中招”,如果普通用户也主动加入“换脸”大军,“换脸”作品被四处散播,难保不会被居心不良的人用来制成不雅视频牟利,或者直接用作“敲诈”神器。
用户葛屹林担心自己的面部信息被人利用来人脸支付和身份信息的认证,但他认为这种事情发生的概率并不大。
针对这一问题,蚂蚁金服在回应媒体采访时称,不管换脸效果多么逼真,都无法突破现有技术支持下的3D人脸识别。专栏作家刘远举也撰文称:“这款APP并没有带来新增风险,因为风险早已存在。”他认为换脸与自拍没有本质区别,“ZAO”的出现,让人们见识了技术的强大,反而带来安全。他相信人们可以适应这种技术上的风险。
但另一位国有银行的 络金融负责人说,类似换脸技术的安全威胁会一直存在。
虽然概率可能真的不大,但若发生在自己身上,可能要独自承担责任。“ZAO”方面早已经为自己准备了退路,秘密便在它的“霸气外露”的“用户协议”中间。
“薛定谔的”《用户协议》与《隐私协议》
在事关用户权益的协议上做文章并非个案。较受人关注的类似事件还有2018年年初,支付宝2017年年度账单在不显眼的角落,替用户默认了“我同意《芝麻服务协议》”,令很多用户在不知不觉中“授权了”支付宝收集用户的信息,包括一些在第三方应用上保存的信息。淘宝方面事后立刻发文公关,进行补救。
而在“ZAO ”的协议中有没有隐藏一些对用户正当权利不利的条款,对用户来说是未知的,对大多数人来说,看了和没看其实差别不大。
广州市律协的一位专注于互联 及高新技术领域的律师詹朝霞认为,除了专业的法律从业人员,一般消费者无论学历高低,因其认知水平、消费习惯等各种原因,对长篇累牍的协议往往无法详尽阅读正确理解并作出选择,所以国家公权力的介入和监管是必须的也是必要的。她建议国家 信等部门对类似APP从信息安全等各个方面进行合规审查,避免类似违法收集信息的应用软件上架运营。
可能是因为“ZAO”换脸软件对自己产品的趣味性充满自信,这一点可以从它“硬气”的旧版《用户协议》中可见一二。
旧版协议内容在不知不觉中使所有用户“被授权”了自己的人脸信息。内容广泛传播后,该软件在8月31日更新了用户协议,其中删除了该段全部内容。
但刘远举有不同的理解,他认为这段内容的意思是,用户上传自己的头像之后,要授权给“ZAO”,“ZAO”才能进行视频修改,以免事后被用户指责侵权,他认为一般的消费者不用过于担心。
无独有偶,2018年年初,支付宝2017年年度账单在不显眼的角落,替用户默认了“我同意《芝麻服务协议》”,令很多用户在不知不觉中“授权了”支付宝收集用户的信息,包括一些在第三方应用上保存的信息。淘宝方面事后立刻发文公关,进行补救。
詹律师认为:“旧版《用户协议》中‘您的必要授权’部分涉嫌违法。我国《 络安全法》明确规定: 络运营者收集、使用个人信息,应当遵循合法、正当、必要的原则,公开收集、使用规则,明示收集、使用信息的目的、方式和范围,并经被收集者同意。”
她说:“ 络经营者经营过程中收集个人用户信息必须明确告知使用目的、应遵循最小范围采集原则,明确告知用户需开放的权限,并自始至终遵循在被授权的目的和范围内使用,不得任意扩大其使用权限和使用范围或改变其使用目的。……如果后面协议修改了,必须进行公示,用户有权利重新选择接受或者不接受。”但她指出,即使这部分内容违反法律法规强制性规定,并不影响旧版协议其他条款的有效性,除非所认定的违法条款导致整份协议无法履行。
按照《电子商务法》的要求,商家必须向用户公示《用户协议》和《隐私协议》,而且要在APP产品的显著位置全文公示或者提供相应链接,以便用户完整阅读。商家如果要更改协议内容,同样也要连续不断地在显著的位置进行公告,提示消费者根据协议内容进行选择。詹律师认为,旧版协议的做法并不妥当。
在争议声中,“ZAO”方面于8月31日下午,默默对旧版“用户协议”与“隐私协议”中的部分争议内容进行了删改,并着重强调了相关用户信息的授权问题。
除此之外,很多 友也对“ZAO”素材库的视频资源是否侵犯了原视频的版权,产生了疑问。
用户源源以录屏的形式在朋友圈分享了自己的换脸视频。原素材是前段时间争议极大的蔡徐坤“唱、跳、rap、篮球”的短视频。
该段视频素材现已下架,无法再进行制作与分享。
我们为什么热衷于“换脸”
从换脸软件本身的功能和用户需求角度而言,它和近年来美颜、自拍流行等更一般化的现象一脉相承。
另一位心理学学者认为,p图软件、美颜相机、换脸游戏这些产品本身也是在不断地挖掘人们展示自我的心理需要。只是在以前,人们可能对自己的形象会普遍呈现一种相对更谦虚的心态,一般而言在展示自我、传播自我形象方便相对会更保守,同时传播渠道也比较有限。
他说,现在,人们的自我概念、自我意识越来越强烈,对自己的形象、外貌关注程度越来越高。到 交媒体时代,朋友圈等功能的普及让大家自我表达、展示自我的需求也不断强化,所以整体上来说人们也可能变得更加愿意去展示自己。再加上AI技术等手段,能够根据自己的意愿设定自己的形象,从而产生娱乐效果。
他认为,在本能上,人们都希望竞争一个更高的 会地位,所以朋友圈里面多发一些高达上的、成功的事件,而不是一些无聊的、失败的,能够满足大家竞争 会地位的需求。“换脸”在本质上也是一种不能实际实现这种“向上”跨越的替代选择,因为现实里面要去改变自己的容貌是比较难的,通过一个游戏,既便捷、成本低,而且产出的结果处于自己可控的范围之内。
“ZAO”现有的玩法模式比较单一,主要“造视频”与“造表情”两项功能。此外,通过添加好友,可使用对方的面孔合演视频,为 交化提供了一定的可能性。但目前尚没有业内人士分析这款换脸软件如何盈利以及如何留存用户。目前已经有许多用户在接受采访时表示,对这款软件的兴趣已经开始下降。
而关于“ZAO”的最新动态是,它的微信分享链接已经停止访问,页面显示的理由是:“ 页存在安全风险,被多人投诉,为维护绿色上 环境,已停止访问。”
“ZAO”的未来如何,还有待观察。
声明:本站部分文章及图片源自用户投稿,如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢!