AI差別問題～何故mimicは許されずMidjourneyは許されるのか～
１，初めに
まずは初めまして、有間と申します。初めてのnoteです。
普段は細々と文筆業を営んでおります。かつてはエンジニアをやっていたこともありますが、AIも絵の分野も素人です。ただ、話題になっているクリエイターの権利に関しては、私自身が文筆業な事もありﾁｮｯﾄﾜｶﾙ感じです。
そのためこの文章は技術面ではなく、クリエイターの権利と心情という観点から書かれています。その前提を持って読み進めていただけると幸いです。これ違うんじゃない？みたいなところは訂正を頂けると大変助かります。
主題は『AI差別問題』です。
これは『AIという技術が差別されている』なんていう手垢のついた話ではなく、『似たようなAIを利用したサービスであるにも関わらず、片方は賞賛され、片方は炎上している』という部分を私は興味深く見ています。クリエイターとAIによる仕事をめぐる対立は予想していましたが、これはちょっと予想の外側でした。
そのために少しばかり調査をし、色々と頭を巡らせてみた結果、どうしても文章として残しておきたくなり、noteの執筆に至りました。
２， 現在起きていることのまとめ
本日（2022/8/29）、無断転載というトレンドが目に入ってきました。
何事かと思ったところ、どうやら『ミミック』というAIを利用した絵の自動生成サービスが炎上しているようです。
大雑把に言うと、ミミックというのは『特定の絵師の画像を複数枚（サイト上では３０枚以上が目安）アップロードすると、絵柄を学習し、その絵柄で新しい絵を自動生成するサービス』です。
これのなにが問題になっているかというと、『ネット上から著作者本人以外が絵を拾ってきて、新しい絵を生成し、それが自作であると発言した場合、権利的にまずいのではないか』という部分です。
ミミックは著作者本人以外によるアップロードを禁止しているが、あまりにも利用者のモラルに任せた話でしかなく、実質無意味ではないか。
実質無断転載ではないか。
トレパクではないか。
また著作者本人が多大なコストを払ってそういう人間を相手にしなければならないのか。
そういう話でミミックは炎上しているようです。
３， ミミックというサービスについて
まず前提として、ミミックはガイドラインで『※アップロードしたイラストに権利侵害があった場合は、元の権利保有者に権利が帰属します』と明言しています。
著作者本人以外のアップロードも禁止されており、少なくとも利用規約の上ではクリエイターの保護を行っています。
（※実際に運営が迅速に対応を行うかはともかくとして）
ですが実際のところ、『絵柄』というあいまいなものでどこまで正確に対応がなされるのか、迅速に対応が行われるのか、というところで絵描きの人々の不安をあおっているようです。
この不安が、普段からツイッター等で横行している無断転載やトレパクといった問題により醸成されたものであるのは言うまでもないでしょう。
現時点ですら、無断転載を行う人の対応にはあらゆる絵描きが苦悩しています。そこにAIなんてものまで出てきた。どこまで自分の作品は保護されるのか？という不安が生まれるのは当然のように思えます。
これにより現時点で無断転載のトレンドを見ると、『AI学習への利用禁止』というような文言まで見られます。
つまり、ミミックの炎上は本質的には『無断転載、トレパクを行うような権利を無視する人々への怒り』であるのが、『権利者に許可なくAI学習に対し絵を利用される事に対する忌避感』として表出しているのではないでしょうか？
これは分かりやすい例えで言うと、殺人事件が起きた時に凶器となった包丁がなんとなく忌避されるのと同じ事です。
４，絵描きAIの学習に用いられている画像データについて
ですが、ここで一つ重要な事実があります。
それは、ミミックだけでなく既存の絵描きAIも、明言・証明はされていませんがほぼ間違いなく『権利者に許可なくAI学習に対し絵を利用している』という事実です。
最近Midjourneyが特定のコマンドで二次元絵を生成できるようになったと話題になっていました。ここではあえて分かりやすいようにほぼ死語ですが『萌え絵』と表現します。
その中には、明らかに『これプリコ……のキャラでは……』というような絵があり、私自身これは権利的にまずいのではないかと思った記憶があります。
萌え絵が生まれたのは２０００年代であり、著作権保護は７０年。当然ながらこの世に存在する全ての萌え絵に権利者がいます。仮にMidjourneyの開発者が全ての学習データをイラストレーターに発注し、学習データとして買い取ったり、著作権フリーの画像のみを用いて学習をさせていない限り、１００％権利侵害が発生しています。そして現実的に考えて、そんな事はしていません。
Midjourneyは同じような絵描きAIであるStable Diffusionとは異なり、オープンソースではないので学習データ、学習プロセス、ソースコード、全てがブラックボックスです。仮に学習データで権利侵害が行われていたとしても、それをどこまで追求できるかは調べた限り前例がなく、現時点では不明です。米国には『フェアユース』というものがあり、現時点ではこれに当たる可能性が高く、著作権侵害には該当しないという見方があるようです。
フェアユースとして認められるにはいくつか要素がありますが、特に重要なのが『変形』であり、雑に言うならオリジナリティがどの程度付与されているか？という部分のようです。膨大なデータを学習したMidjourneyが学習データの中の一つの絵をほぼそのまま出力する可能性は低く、オリジナルとほぼ同一でないのならフェアユースに認められるのではないか、という話のようです。
（※このあたり、ふわっとした理解で進めています）
というか、そもそも仮にあなたの絵が使われていたとしても、学習データがあまりにも膨大であるため『分からない』可能性が非常に高いです。
ただ、こうして事実だけを並べてみると、一見してミミックの方が著作者を守っているように見えます。にも関わらず、何故Midjourneyはもてはやされミミックは炎上したのでしょうか？
※ちなみに
Stable Diffusionもちょっとまずい画像を出力する事があり、海外アーティストから問題視されているという話もあります。
また、仮に著作権フリーの画像を使用していたとしても、著作者人格権というものがあります。
ざっくりいうと『確かにフリー画像として発表したけどさぁ、そういう使われ方するのは想定してないからさぁ、ダメ』と製作者が言えるというものです。なので仮に『いらすとや』の画像を元に自動生成するAIを組んだとしても、いらすとや（というか絵を描いたクリエイター）がダメだと言ったらダメです。
現状、絵描きAIはこの学習データの著作権問題から逃れられない運命にあります。
５，『見て分かる』危険性
まず前提として、ミミックはおよそ３０枚から画像を生成できてしまうため、オリジナルの画像と非常に近い画像が生成されてしまう可能性は間違いなく他のAIよりあります。というか、『絵柄』を学習するという特性上、オリジナルに近いものを生成するのは当たり前です。
そうなるとオリジナルとほぼ同一とみなされ、フェアユースには当たらないと判断される可能性がある。だからこそミミックは学習データの著作権の管理を規約上で明確にしているのだと考えます。
これがなにを意味するのか？
つまり、フェアユースという米国の著作権概念においても、『見て分かる』というのが結構な比重で存在しているという事です。
ツイッター上でミミックが炎上したのもそれが原因のようで、学習の浅さが権利侵害を見てわかる形で出力してしまうからこそ、ユーザーに悪感情を抱かせたのだというのが私の仮説です。
たとえ現状もてはやされている絵描きAIが同じく、なんなら実質的には（現在ツイッター上でミミックを悪し様に言っている人達のロジックからすると）もっと悪質に権利侵害をしていても、です。
６，AIの間でも差別が生まれるという現実
繰り返しますが、確かにMidjourneyとミミックでは、ミミックの方が間違いなく権利的に危ない使い方が出来ます。
Midjourneyは実際グレーゾーンではあり、現時点では商用利用などをするには相応のリスクを伴うと私は考えていますが、それでも１ユーザーが遊んでいる分には十分『お目こぼし』される範囲のように思います。
一方ミミックはそもそも『絵描きが自分の著作物で遊ぶ以外使用禁止』であり、これ自体が権利的な危険性を示唆しています。運営は悪意のあるユーザーに対し、今後厳格かつ迅速な対応を行っていく必要があります。
ですが『AIを利用してやっている事は同じ』なのです。特に『権利者の許可なく学習データに絵が利用される』というロジックにおいては、です。
この、実質的には同じことをしているのに片方だけが炎上している構図。
これを、私は『AIがモノによって差別されている？』と感じ、興味深く思い、調査し、思考を巡らせてみたわけです。
AIという技術には善悪も好悪も存在しません。ただの技術です。
故にそこに向けられる感情は、そのAIの母体である人間に対する感情が、やはり出るのでしょう。
今回見えてきたのは、運営母体に対する不信でした。実際ミミックは隙が大きいサービスであり、差別というにはあまりに真っ当だったかもしれないと、ここまで情報をまとめてきて思っています。
ただ、おそらく似たような事は今後、何度も起こっていきます。
多くのAIが多くの人の手に触れる時代になった時、そのAIの善悪・好悪を判断する要素は一体なんなのか？比較検討するポイントはどこなのか？
理性的に考えるのなら、それはAIの用途と性能とコストの折り合いで判断されるべきではあります。
が、もしかしたらそうはならないのかもしれない、と今回の一件で私は思いました。
何一つ明言はあえてしませんが、残念ながら今の世の中にはまだまだ人対人の差別が多くはびこっています。
あなたがいつかAIを選ぶときに、その後ろに透けて見える人が影響しないと、あなたは言えますか？
今回参考にさせていただいたサイト等
mimic（ミミック）
https://illustmimic.com/
「フェアユース」とは
https://support.google.com/legal/answer/4558992?hl=ja
まるで人間のアーティストが描いたような画像を生成するAIが「アーティストの権利を侵害している」と批判される-Gigazine
https://gigazine.net/news/20220815-stable-diffusion-controversy-ai-infringes-artists/
この記事が気に入ったらサポートをしてみませんか？