被下架的AI脱衣软件现身电商平台！还有人出售女星换脸淫秽视频

　　最近，27岁的新加坡女孩Rose（化名）发现，她的 交账 粉丝莫名暴涨。

如果不是有人联系告知，Rose可能永远不会知道，一年前她在 交账 上发布的生活照片，被人改成了裸体照片，如今正在色情 站流传。

一套人工智能算法，数十张正常的生活照，二者结合，就能凭空生成一个女性的裸体照片，甚至把她的脸移花接木到淫秽视频女优身上。类似的事情正在中国发生，多位知名女明星也中招，成为不法卖家的牟利工具。

AI“脱衣”软件的宣传图片。图自 络。····

被下架的“脱衣”软件流入中国，有人在电商平台出售

今年6月下旬，一款名为“DeepNude”的AI软件现身 络。它以人工智能算法为基础，可以识别并“删去”照片中人物的衣服，从而把正常照片转为“裸照”。据外媒测试，原始照片的清晰度越高、女性裸露的肌肤越多，转换出的“裸照”就越逼真。

左侧为真实照片，右侧为DeepNude伪造的照片。图自Motherboard。

由于伪造女性裸照极具道德争议，DeepNude火了不到一个星期便被开发者下架。6月27日，开发者在推特发布声明称，“从未想到该软件会得到病毒式传播”。他承认，尽管软件生成裸照后会打上“伪造”等遮挡水印，人们滥用软件的可能性还是很大。“这个世界还没有做好接受DeepNude的准备。”开发者说。

开发者还表示，肯定会有DeepNude的部分副本在 上流传，如果有人从其他地方下载、分享这些副本，将违反DeepNude官 的使用条款——如今，这一判断成为了现实。对于盗版者而言，“违反使用条款”的警告丝毫没有震慑力。

在某电商平台，“DeepNude破解版”“无水印版”的售价在3.99元到10元不等。但根据该电商平台 区规则，用户不得发布色情低俗信息，也不得发布侵犯他人商标权、著作权、专利权的信息。按这些规则判断，DeepNude无疑属于违规交易物品。

某电商平台上兜售DeepNude的商家。图/AI前哨站。

值得注意的是，部分卖家明显在用话术规避平台监管。一位卖家在商品介绍中提示，“直接拍，拍完私聊秒发货”。另一位卖家则声称“被禁言了”，在商品介绍中留下了微信 ，要求买家加其微信 完成购买。还有的卖家将头像设置为二维码，提示买家通过“扫一扫”跳转进入其他平台的链接购买。

卖家用话术躲避平台监管。图/AI前哨站。

出售软件是否构成违法？金杰认为，要具体情况具体分析。如果是仅限个人使用并不扩散，不会对他人造成损害，则不构成侵权。如果是出于恶意或者专门出售给某者些个人或组织，用于非法目的，则应该认定为违法或违规。

····

AI换脸已成产业，色情 站内中国女星视频火爆

自2017年开始，就有基于Deepfakes的换脸视频在美国 站流传。渐渐地，包括“神奇女侠”扮演者盖尔·加朵、在《复仇者联盟》饰演“寡姐”的斯嘉丽·约翰逊、《冰与火之歌》中的“Arya”麦茜·威廉姆斯在内，诸多高人气女演员接连惨遭“毒手”，被合成到了色情淫秽视频中。尽管有 站宣布“封杀”，但此类视频仍然在 上层出不穷。

盖尔·加朵曾被Deepfakes换脸。图自 络。

一些卖家兜售的换脸视频合集。

有卖家放出部分视频截图招揽生意。

一些卖家通过“成品”“链接”等隐晦词语提示购买，以躲避平台监管。

除了电商平台，Deepfakes也在外国的色情 站上大行其道。某知名色情 站2018年便宣布禁止发布Deepfakes制作的视频，但至今仍有用户上传涉及中国女明星的换脸视频，并在标题中公然打出“人工智能换脸”“AI合成”等关键词。这些换脸淫秽视频均有数十万浏览量，有的甚至超过百万。

一家已宣布禁止传播换脸视频的色情 站，如今仍有中国女星的换脸视频。····

通过AI换脸制造淫秽物品牟利，已是明确违法

北京莫少平律师事务所律师莫少平说，商家在 上兜售换脸淫秽视频，肯定属于违法行为。根据情节不同，轻则违反《治安管理处罚条例》，重则触犯《刑法》，构成犯罪。

按照《治安管理处罚条例》，制作、复制、出售、出租或者传播淫书、淫画、淫秽录像或者其他淫秽物品的，处十五日以下拘留。《刑法》中则规定了“制作、复制、出版、贩卖、传播淫秽物品牟利罪”与“传播淫秽物品罪”，对构成犯罪的追究刑事责任。

而从民事层面看，未经当事人同意，以营利为目的使用公民的肖像，则有侵犯肖像权之嫌。虚假的淫秽视频，也可能构成名誉侵权。

谈到暗中广泛流传的明星换脸视频，北京京都律师事务所律师金杰说，这些视频一旦流传出去，既是对女明星的人格侮辱，也严重损害了她们的名誉。对这类视频的扩散，应当引起重视。

种种新政表明，监管层已注意到以Deepfakes为代表的恶意的人工智能应用。今年4月提交十三届全国人大常委会第十次会议审议的民法典人格权分编拟规定，任何组织或个人不得以利用信息技术手段伪造的方式侵害他人的肖像权。

5月底，国家 信办会同有关部门发布《数据安全管理办法（征求意见稿）》，其中要求，“ 络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息，应以明显方式标明”合成”字样；不得以谋取利益或损害他人利益为目的自动合成信息”。

不过，这些尚未正式出台的法律法规，还无法有效阻止 DeepNude、Deepfakes及伪造裸照、淫秽视频的传播。

····

有技术人员正寻求办法识别伪造视频

至于DeepNude，本身便是针对单张照片的转换软件。

这意味着，不仅是女明星，任何曾在 交媒体上公开过生活照片的女性，都可能成为恶意应用的受害者。

Rose 被篡改的照片之一。图自the Star Online。

如果不是被媒体联系到，Rose可能还蒙在鼓里。“这非常令人恶心！太不尊重人了，也太变态了。如果有人对他们的母亲，姐妹，妻子或女朋友做这样的事呢？”Rose气愤地说。

“是的，这不是你真正的私处，但别人会以为他们看到了你的裸体。一个Deepfakes的受害者曾告诉我，她觉得有上千人看到了她的裸体，她的身体好像不再是自己的了。”马里兰大学法学院教授Danielle Citron在接受外媒采访时说。

全球执法者设法应对的同时，技术人员也在寻求破解之道。今年 6月初，有企业在 DEF CON CHINA 1.0大会上展示了“打假”成果，研究人员用深度神经 络来训练识别算法，识别伪造视频的准确率超过了90%。6月底，加州大学伯克利分校和南加州大学的研究者也发布了一项进展，据称“打假”正确率达到了92%。

技术似乎总是比伦理跑得快。在法律和技术都还无法有效阻止伪造裸照和淫秽视频传播的情况下，女性不得不更加保守和谨慎地对待 交 络。

Rose告诉媒体，她打算将 交账户设为“私密”。