大数据文摘出品
年初的时候，由初创公司Stability AI开发的根据文本生成图像的AI程序开源了，最近这样的小程序在国内也很火。
不过，这个功能很显然会走歪——很快有人开始用这个AI生成色情图片。
比如，Reddit 和 4chan 上的 区用户开始利用该AI生成真实和动画风格的裸体人物图像，其中大部分是女性，以及名人的换脸裸体图像。
很快，这些 区发现了这一问题，Reddit 迅速关闭了许多致力于人工智能色情的子版块，甚至允许一些色情内容的 NewGrounds 也完全禁止人工智能生成的艺术作品。
在这样的情况下，新的 群出现了。
到目前为止，这类 群中规模最大的是【不稳定扩散】（Unstable Diffusion），其运营商正围绕AI建立业务，目的很明确，就是为了生成更高质量的色情作品，目前每月从数百名会员那里获得超过2500美元的收入，以维持 群运营。
团队13人，用户50000人，全五星好评
“在短短两个月内，我们的团队扩展到了13人以上，还有许多顾问和志愿 区版主，”【不稳定扩散】管理团队成员之一阿尔曼 · 乔杜里(Arman Chaudhry)在和媒体的对话中表示。
【不稳定扩散】是在八月份开始的运营的ーー差不多是原始模型【稳定扩散】（Stable Diffusion）发布的同一时间。最初，它是一个子 站，最终迁移到 Discord，在那里它现在拥有大约50,000名会员，目前，【不稳定扩散】在 Discord 几乎获得了所有人的五星好评。
早期，【不稳定扩散】只是一个分享人工智能生成的色情作品的地方ーー以及日和绕过各种图像生成应用程序的内容过滤器的方法。不过，很快，一些服务器的管理员开始探索在现有的开源工具之上构建自己的色情生成 AI 系统的方法。
“基本上，我们在这里提供支持的人有兴趣制作NSFW（不适合上班浏览），”一个Discord服务器管理员，名字叫AshleyEvelyn的人在一个公告帖子从八月份写道。“因为目前唯一在这方面工作的 区是 4chan，我们希望提供一个更合理的 区，能够真正与更广泛的人工智能 区合作。”
是的，至少在很多人眼中，这依然是对AI技术的探索。
原始模型【稳定扩散】（Stable Diffusion）只有一小部分数据集，大概只有约2.9% 包含色情图片，这使得模型在涉及这些内容时特别容易翻车。
比如生成好多条腿的动漫人物等等。
因此，【不稳定扩散】招募了志愿者（大多数是 Discord 服务器的成员）来创建色情数据集，以便对原始模型进行微调。
大部分工作正在进行，其中一些已经取得了成果，包括一项“修复”人工智能生成的裸体扭曲的面部和手臂的技术。
管理团队成员之一阿尔曼 · 乔杜里表示 “我们正在记录和应对所有人工智能系统都会遇到的挑战，即收集高图像质量、文字标题丰富、涵盖我们用户所有偏好的多样化数据集。”
成长中的 区，该如何监控？
如今，【不稳定扩散】已经可以借助AI技术生成一系列不同艺术风格的色情图片，并且分为不同的频道。
这些频道中的用户可以调用 bot 来生成符合主题的艺术作品，然后如果他们对结果特别满意的话，他们可以将这些作品提交给“starboard” 。
【不稳定扩散】声称已经生成了超过4,375,000张图片，该组织还不定期举办比赛，挑战成员使用机器人重建图像，然后再反过来用于改进模型。
随着【不稳定扩散】的发展，它渴望成为一个人工智能生成色情的“道德” 区ーー即一个禁止儿童色情、深度伪造和过度血腥等内容的 区。
但有人认为，随着不稳定扩散系统的广泛应用，监控它们将变得更加困难。
蒙特利尔人工智能伦理研究所创始人兼首席研究员阿布希谢克 · 古普塔(Abhishek Gupta)表示：“我们需要… … 考虑一下，当你拥有一个以 API 为媒介的、带有防止滥用控制功能的系统版本时，安全控制可能会被颠覆……“像【不稳定扩散】这样的服务器成为了在一个地方积累大量有问题内容的温床，既显示了人工智能系统生成这类内容的能力，也显示了恶意用户之间的联系，以提高他们生成这类内容的技能……与此同时，它们还加重了内容审查团队的负担，他们在审查和删除冒犯性内容时不得不面临(精神)伤害。”
相关 道：
https://techcrunch.com/2022/11/17/meet-unstable-diffusion-the-group-trying-to-monetize-ai-porn-generators/
声明：本站部分文章及图片源自用户投稿，如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢！