AI脱衣软件 上叫卖 正常照片秒变裸体!

最近,27岁的新加坡女孩Rose(化名)发现,她的 交账 粉丝量莫名暴涨。如果不是有人联系告知,Rose可能永远不会知道,一年前她在 交账 上发布的生活照片,被人改成了裸体照片,如今正在色情 站流传。

一套人工智能算法,数十张正常的生活照,二者结合,就能凭空生成一个女性的裸体照片,甚至把她的脸移花接木到淫秽视频女优身上。类似的事情正在中国发生,多位知名女明星也中招,成为不法卖家的牟利工具。

被下架的“脱衣”软件流入中国

今年6月下旬,一款名为“DeepNude”的AI软件现身 络。它以人工智能算法为基础,可以识别并“删去”照片中人物的衣服,从而把正常照片转为“裸照”。据外媒测试,原始照片的清晰度越高、女性裸露的肌肤越多,转换出的“裸照”就越逼真。

由于伪造女性裸照极具道德争议,DeepNude火了不到一个星期便被开发者下架。6月27日,开发者在推特发布声明称,“从未想到该软件会得到病毒式传播”。他承认,尽管软件生成裸照后会打上“伪造”等遮挡水印,人们滥用软件的可能性还是很大。“这个世界还没有做好接受DeepNude的准备。”开发者说。

开发者还表示,肯定会有DeepNude的部分副本在 上流传,如果有人从其他地方下载、分享这些副本,将违反DeepNude官 的使用条款——如今,这一判断成为了现实。对于盗版者而言,“违反使用条款”的警告丝毫没有震慑力。

DeepNude官 关闭后,各种版本的软件先是在开源 区GitHub上流传。7月10日,GitHub全面封禁了类似项目的代码库。但DeepNude依然流入中国,并在各种 区和云盘内悄然扩散,甚至有电商平台商家打出“DeepNude破解版”“无水印”的名 售卖该软件牟利。

值得注意的是,部分卖家明显在用话术规避平台监管。一位卖家在商品介绍中提示,“直接拍,拍完私聊秒发货”。另一位卖家则声称“被禁言了”,在商品介绍中留下了微信 ,要求买家加其微信 完成购买。还有的卖家将头像设置为二维码,提示买家通过“扫一扫”跳转进入其他平台的链接购买。

出售软件是否构成违法?金杰认为,要具体情况具体分析。如果是仅限个人使用并不扩散,不会对他人造成损害,则不构成侵权。如果是出于恶意或者专门出售给某些个人或组织,用于非法目的,则应认定为违法或违规。

“视频换脸”已成产业,不少女星受害

自2017年开始,就有基于Deepfakes的换脸视频在美国 站流传。渐渐地,包括“神奇女侠”扮演者盖尔·加朵、在《复仇者联盟》饰演“寡姐”的斯嘉丽·约翰逊、《冰与火之歌》中的“Arya”麦茜·威廉姆斯在内,诸多高人气女演员接连惨遭“毒手”,被合成到了色情淫秽视频中。尽管有 站宣布“封杀”,但此类视频仍在 上层出不穷。

除了电商平台,Deepfakes也在外国的色情 站上大行其道。某知名色情 站2018年便宣布禁止发布Deepfakes制作的视频,但至今仍有用户上传涉及中国女明星的换脸视频,并在标题中公然打出“人工智能换脸”“AI合成”等关键词。这些换脸淫秽视频均有数十万浏览量,有的甚至超过百万。

恶意人工智能应用已进入监管视野

北京莫少平律师事务所律师莫少平说,商家在 上兜售换脸淫秽视频,肯定属于违法行为。根据情节不同,轻则违反《治安管理处罚条例》,重则触犯《刑法》,构成犯罪。

按照《治安管理处罚条例》,制作、复制、出售、出租或者传播淫书、淫画、淫秽录像或者其他淫秽物品的,处十五日以下拘留。《刑法》中则规定,“制作、复制、出版、贩卖、传播淫秽物品牟利罪”与“传播淫秽物品罪”,对构成犯罪的追究刑事责任。

而从民事层面看,未经当事人同意,以营利为目的使用公民的肖像,则有侵犯肖像权之嫌。虚假的淫秽视频,也可能构成名誉侵权。

种种新政表明,监管层已注意到以Deepfakes为代表的恶意的人工智能应用。今年4月提交十三届全国人大常委会第十次会议审议的民法典人格权分编拟规定,任何组织或个人不得以利用信息技术手段伪造的方式侵害他人的肖像权。

5月底,国家 信办会同有关部门发布《数据安全管理办法(征求意见稿)》,其中要求,“ 络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息,应以明显方式标明”合成”字样；不得以谋取利益或损害他人利益为目的自动合成信息”。

不过,这些尚未正式出台的法律法规,还无法有效阻止DeepNude、Deepfakes及伪造裸照、淫秽视频的广泛传播。

有技术人员正寻求办法识别伪造视频

这意味着,不仅是女明星,任何曾在 交媒体上公开过生活照片的女性,都可能成为恶意应用的受害者。

“是的,这不是你真正的私处,但别人会以为他们看到了你的裸体。一个Deepfakes的受害者曾告诉我,她觉得有上千人看到了她的裸体,她的身体好像不再是自己的了。”马里兰大学法学院教授Danielle　Citron在接受外媒采访时说。

在全球执法者设法应对的同时,技术人员也在寻求破解之道。今年6月初,有企业在DEF　CON　CHINA　1.0大会上展示了“打假”成果,研究人员用深度神经 络来训练识别算法,识别伪造视频的准确率超过了90%。6月底,加州大学伯克利分校和南加州大学的研究者也发布了一项进展,据称“打假”正确率达到了92%。

用技术作恶的人似乎总是比伦理和法律跑得快。在法律和技术尚无有效应对之道的当下,女性不得不更加保守和谨慎地对待 交 络。

Rose告诉媒体,她打算将 交账户设为“私密”。