图片来源：由无界 AI生成
Stable Diffusion 的大火，让那些尝试开发自己模型的用户有了与其他爱好者分享作品的强烈需求。在看到了这一机会后，曾在微软担任网络开发项目承包商的 Justin Maier 搭建了一个名为 Civitai（Civitas 的谐音，意为社区）的平台。在该平台上，用户们可以发布自己基于 SD 的人工智能图像模型，供他人发现，也可供消费者浏览和欣赏。
说起创建该平台的原因，Maier 解释道，在结束了微软的一个项目后，自己对 Midjourney 产生了浓厚的兴趣。“它和网络开发一样，让我看到一些东西——或者我脑子里有一些东西——我可以输入一些文本来得到一些东西。它变成了这种协作体验，我可以在其中探索自己的创造力，并被拉向也许我没有计划过的方向，”他说。但是，Maier 很快发现自己受到了 Midjourney 积分计划的限制，每次他都需要等上 5 分钟才能生成图片。
然而，巧合的是，大约同一时间，一个名为 Stable Diffusion 的开源版本问世了。于是，围绕 Stable Diffusion 的社区日益壮大，人们开始学习如何通过提示或向模型中添加新的概念来使用该模型做不同的事情，例如使用自己的图像来制作 AI 生成的自拍照。Maier 开始看到有人发布他们自己的模型，比如生成合成波风格或朋克风格 -- 并将模型合并在一起，创造出其他新概念。但这些模型都是在 Reddit 或 Discord 等网络上发布的，而不是在一个集中的社区中。
为了将这些模型组织到一起，Maier 便搭建了 Civitai（或最初的 Model Share）。
最初，Maier 通过联系模型创作者并询问他们是否可以在网站上发布自己的作品来为 Civitai 打基础。据悉，网站最初只有大约 40 或 50 种不同的模型。但随着时间的推移，Civitai 开始发展壮大。
“人们为自己所做的努力被人看到而感到兴奋。因此，到 1 月份左右，我们就成了分享这些模型和创作的首选之地，”Maier 说。“人们还在其他网站上发布过信息，比如 HuggingFace...... 但这些网站都不是以图片为中心的。”他解释道。“因此，我们成了分享模型、各种人工智能资源和图像的标准。”
据悉，到 2023 年 1 月，该网站的注册用户就达到了 10 万，Maier 也开始意识到它不仅仅可以是一个社区项目，还可以成为一家公司。于是，联合 Maxfield Hulker 和 Briant Diehl，Maier “正式”创办了 Civitai。三个月后，网站的注册用户达到了一百万。目前，注册用户数量约为 300 万，每月独立访客约为 1200 万至 1300 万。
Maier 说：“它的发展速度之快令人难以置信，绝对超过了我们 1 月份的预期。”
然而，在这 300 万用户中，最初每月只有约 1 万名独立创作者上传新模型。在 Citivai 增加了让用户在网站上训练新模型的功能后，这一数据在上个月增加了约 25%。
随着业务的增长，Civitai 也于今年 6 月获得了由 Andreessen Horowitz（a16z）领投的 510 万美元的融资，估值为 2000 万美元。据悉，这次融资的其他参与者还包括帮助他们完成这轮融资的法律团队。
Andreessen Horowitz 合伙人 Brian Kim 在一份声明中表示：“Civitai 是一家公司的典型例子，它创建了一个令人难以置信的、参与度很高的社区，而且没有在营销上花一分钱。”“我们对该公司的投资只会为已经运行得非常好的平台注入更多动力，为一个任何人都可以利用我们这一代最大的技术变革——人工智能所提供的世界做出贡献。”
被曝靠色情内容盈利
然而，风光的同时，丑闻也随即而来。
根据独立媒体公司 404 Media 报道，今年 8 月，该公司发布了一份对 Civitai 的调查报告，其中解释了该平台如何运作，以及如何让人工智能生成未经同意的色情图片，并从中获利。据悉，Civitai 允许用户分享开源文本到图像人工智能工具 Stable Diffusion 的修改模型。这些修改后的模型通常是在名人、网红、YouTubers 和运动员（几乎全是女性）的图像上进行训练。然后，这些模型可以与在色情图片上训练过的人工智能模型相结合，以立即生成未经同意的成人图像。
据悉，从技术上讲，Civitai 的政策禁止用户生成未经同意的色情图片，但允许生成色情图片的模型，也允许生成真人图片的模型。将两者的结合不被允许，但这并不妨碍人们将两者结合在一起，生成未经同意的色情图片，并在 CivitAI 的平台上分享。
根据报道，虽然 CivitAI 多次执行这一政策并删除此类内容，但此类图片仍经常被发布到网站上，有时甚至在网上停留数月之久。
报道称，自 8 月发布调查报告以来，Civitai 的非自愿 AI 色情问题愈演愈烈。以前，Civitai 将用户引导至其他生成式 AI 平台，以便真正使用模型来创建图像。如今，Civitai 有了自己的网络界面，可以直接在网站上使用模型生成图片。
此外，Civitai 最近还推出了“悬赏”功能。这些赏金允许用户要求 Civitai 社区创建人工智能模型，生成特定风格、构图或特定真人的图片，并用一种名为“Buzz”的虚拟货币奖励最佳人工智能模型。404 Media 还发现，针对名人、Instagram 网红和 Twitch 流媒体的赏金有几十种。但也有针对在网上没有显着公共影响力的个人的赏金。
404 Media 表示，在关于投资 Civitai 的消息传出之前，a16z 已多次提及该公司。今年 9 月，a16z 发表了一篇分析生成式人工智能市场的博客，将 Civitai 列为该领域第七大最受欢迎的工具，但并未提及 Civitai 上的成人内容，也未提及未经同意的色情图片是该平台的主要推动力。
作为回应，Civitai 指出，其政策禁止暗示性内容，提供删除申请表和电子邮件地址，并表示不允许使用旨在通过其现场生成器复制真人肖像的资源。(Stable Diffusion 的基础模型可以生成真人）。Civitai 还指出，“悬赏”是不公开的，但如果生成的图片在网站上共享，则必须遵守现有的“真人”政策。
参考资料
- https://techcrunch.com/2023/11/14/andreessen-horowitz-backs-civitai-a-generative-ai-content-marketplace-with-millions-of-users/
- https://www.404media.co/andreessen-horowitz-invests-in-civitai-key-platform-for-deepfake-porn/
本文链接：https://www.aixinzhijie.com/article/6838714
转载请注明文章出处
