気になる生成AI備忘録-vol.15-SaladとCivitaiのこと

■気になる生成AI備忘録とは
個人的に気になる生成AIのポスト(X)をまとめた・あるいは単発の備忘録を共有する連載シリーズです。

より気になるもの・深追いしたいトピックは当サイト『はじめての生成AI比較.com』にてUP予定ではありますが、サイトは生成AIはじめての方・初心者の方向け、こちらnoteでは、基本的には脱初心者目線で取り進めています。

今回ですが、気になる生成AI…サービスというか、生成AI/AI関連のことになります。

気になったのは、↓のポストです。

New from 404 Media: gamers are renting out their powerful GPUs to generate AI porn. A company called Salad gives the gamers Fortnite skins/Roblox gift cards; Salad then offers their compute power to people who want to generate AI images, including porn https://t.co/o7CpugoVY7 pic.twitter.com/Mf2CKYmH0Q

— Joseph Cox (@josephfcox) April 18, 2024

ポスト内容的には、

404 Mediaの新着記事、ゲーマーがAIポルノを生成するために強力なGPUを貸し出している。Saladという会社は、ゲーマーにフォートナイトのスキンやRobloxのギフトカードを提供し、Saladはその計算能力を、ポルノを含むAI画像を生成したい人々に提供している。

といった内容になっています。

個人的に、このポストを見たときに、「え？」と、感じました。

より詳細な内容としては、クラウドコンピューティングとAIテクノロジーを扱う企業「Salad」が、ユーザーからPCの余剰リソース（GPUやCPU、帯域など）を提供してもらうことで、AIによるポルノを生成しているという内容です。

で、ユーザーはその対価として、Salad Storeで使用できる「Balance」を受け取り、AmazonギフトカードやSteamゲームキー、DiscordのNitroなどを購入することができます。

このビジネスモデルについては、一部の国では法律によりポルノ生成が最初からオプトアウトされているとのことです。

また、ユーザーがポルノ生成を行わないように設定した場合、報酬が少し減る可能性があるとSaladは説明していますが、彼らはAIによるポルノ生成をビジネスモデルの中核にする予定はないと述べています。

影響については、このようなビジネスモデルが広まると、ユーザーのPCリソースの利用方法や、AI技術の利用範囲が広がる可能性があります。

しかし、一方で、個人のプライバシーやセキュリティ、法的な問題など、様々な懸念事項も生じる可能性があります。

とのことです。（ソース元は404 Media記事）

今件に関して、個人的な意見と感想は以下の通りです。

一般的には、このようなビジネスモデルに対する意見は分かれるでしょう。

一部の人々は、新しい技術の活用や報酬の提供を歓迎するかもしれませんが、倫理的な問題やプライバシーの問題を懸念する人々のほうが多いような気はします。

それぞれの立場により、意見は異なるでしょう。

この問題については、個々のユーザーが自身の価値観に基づいて判断することが重要且つ、法律や規制に従うことも必要だと思います。

さらに、

Saladのクライアントの1つとして、特定人物のAIモデルに対して報奨金を出すシステムを導入したCivitaiが含まれているとのこと。

なお、Civitaiは404mediaの取材に対して「Saladは時間帯によって、画像生成の一部を担っています。需要の大きさに応じて、Saladとともにサービスを拡大していきます」と答えており、Saladのリソースの多くがCivitai向けの画像生成に用いられていたことが示唆されています。

https://gigazine.net/news/20240422-idle-gpu-to-generate-ai-porn/

と、、、CivitaiはSaladの提供するリソースを利用して画像生成を行っているとのことです。

これは、Saladのリソースが多様な用途に利用されていることを示しています。

しかし、その一方で、AIによるポルノ生成という問題提起もあります。

AI技術の利用については、その技術がどのように利用されるべきか、どのような規制が必要かという問題は、個々のユーザーだけでなく、社会全体で考えるべき課題であり、国や地域の法律や規制に従うことも重要だと思います。

AI技術の進化とその利用方法についての議論は、これからも続くとは思いますが、個人的にはCivitaiも絡んで「なんだかなぁ…」という思いです。（まだまだ風当りはよくない生成AIないしAI画像なのに、加えてポルノって、みたいな）

ちなみに、Civitaiとは、画像生成AIのStable Diffusionで利用できるモデルの共有・DL・AI画像の投稿や生成（場合によっては）も可能なプラットフォームです。

私が気になったのは、捉え方によっては、CivitaiはAIポルノに加担しているって思われそうだなと。

CivitaiがSaladの提供するリソースを利用しているという事実は、一部の人々から見れば、CivitaiがAIポルノの生成に間接的に関与していると解釈される可能性があるのではないかと。

しかし、重要なのは、Civitaiがどのようにそのリソースを使用しているか、そしてその使用が法的・倫理的に適切であるかということでしょう。

Saladのリソースは画像生成に使用されているとのことですが、それが具体的にどのような画像生成に使われているのか、またそれが法律や規制に適合しているのかについては明らかにされていない辺り、気になる点です。