見出し画像

【小話】にじジャーニーのヤバさ

でんでん

　こんちわ！電々です。毎日毎日クソみたいに暑いですね！
　PCのファンが絶賛唸りを上げまくるGPU温度マッハな今日この頃。

　どうでもいいんですが、電々さんは過去に二回ほど熱中症で病院に搬送された事があるのでマジで気を抜かないでください……。
　クーラーきいてる部屋の中でも熱中症にはなるぞ！

前提として

　これから提示する事例は他のモデルや生成サービスでも同じようなコトが発生する可能性がありますが、生成AIを使っている当事者の感覚としては『普通はプロンプト側で指定さえしなければ、ほぼ発生しない程度の軽微な確率』と感じています。

　その一方で、これから述べる『にじジャーニーでは異常なほどその発生率が高い』のです。

　一般の方が使う可能性が高い知名度のあるサービスなので、生成AI利用当事者として『企業や行政など、商業シーンでのにじジャーニーの生成イラストを使う事のヤバさ』について語りたくて、この記事を書いています。

　なので、にじジャーニーのみを見て『生成AIはパクリ量産機』などと揶揄されることを私は望んでいません。

　また『そのまんまなキャラや絵柄』が出たとしても、個人が趣味で使用する分には好きにしたらいいとも思っています。現状の二次創作がそうですしね。

　それと、にじジャーニーは日々モデルをアップデートしています。
　プロンプトに関しても、昨日は通ったものが今日はNGをくらう……という事が往々にしてあります。

　これから提示する例も、日付があるものはあくまで『その当時の出力物』であり、これからのアップデートで版権に似てる絵が出力されなくなる未来もあるかもしれません。
　ここからの内容はそれらの事を踏まえてご覧ください。

ご訂正

  • 8/2追記：東京都教育委員会の例を『にじジャーニーを使用している』と断言しましたが、公式には何を使用したか明言されていないため「恐らく使用している」という表現に差し替えをいたしました。ご指摘ありがとうございます。

  • また例として出した画像類が『版権元とは全く似ていないから、指摘として使用するのは不適切』とご意見頂いております。これは個々人の感じ方の差なので、『私にはそう見えた』という前置きが含まれている事をご承知おきください。

  • またにじジャーニーそのものやその利用者を不当に貶める事を目的として執筆したものではありません。私自身も今後ともにじジャーニーで生成した絵を投稿していきます。


にじジャーニーはヤバイって話

　今回の小話の結論なんですが、にじジャーニーでオリジナルの絵を作る場合は版権絵が出やすいから、それらを判断する能力がない人は商業利用するのはマジでやめとけと言いたいです。

　個人がただツイッターに上げたりする程度ならそこまで大事にはなりませんが（二次創作と同じような扱いでいいと思う）、商用利用に使ったり行政などの公に近い場所で使う時は特に注意が必要だと感じています。

　AI利用者だからこそ、利用しているモデルの特性を知っておくことはマジで大事です。なので、特に類似デザインが出やすいにじジャーニーは危ないよっていう話をしようかなって。

にじジャーニーはすごい

すごい！

　現在、画像生成サービスの提供に多数の企業が乗り出してきています。
　その中でも初期の頃からdiscord上でサービスを展開しているMidjourneyというサービスは特に有名でしょう。にじジャーニーはそこの派生サービスであり、二次元イラストの出力に長けているのが特徴です。

　にじジャーニーの画像生成能力の高さは、生成AIに普段から触れている皆さんならご存知のことでしょう。ローカル生成や他の類似サービスではありえない程に出力が安定していて、クオリティも高い！
　パソコンを持っていなくてもAIイラストが手軽に生成でき、また他の追随を許さないほどの出力物の良さでもって多数のAI術師を今なお夢中にさせています。

　ただ、この凄さの背景にある学習の偏りに私は危険性を感じています。

生成イラストの公での利用

　最近はAIイラストも認知度が広がってきて、公の場で使われる事が増えてきました。地域の募集用チラシに使われていたのを見た、という報告をチラホラ耳にするほかに企業や行政でも利用が増えています。

　これらはその一部として、ネットで話題になったものです。
　一枚目は明言されていませんが恐らくはにじジャーニー産、二枚目はにじジャーニーの派生元であるMidjourneyで生成、三枚目はAdobeフォトストックにあった絵を利用したとの事ですが、恐らくMidjourneyを利用したものでしょう。

　これらはAI利用の是非という観点で炎上も経験しています。それに関してはガイドラインの策定や社会の空気感の変化などによって、時間と共に解決していくでしょうから、今回はそこを問題にしていません。
もっとヤバいコトがにじジャにはあるので。

　この数種の事例だけ見ても、今後も公の場でMid＆にじジャの使用は増えていくだろうと予想されます。高額なGPUの搭載されたパソコンがなくても、たったの10ドル（記事執筆時点で約1,427円）で画像が生成出来るんですからね。そりゃみんな使いますよ。

　また利用者がAIを利用していなくても、フリーの画像素材サイトにはAIで生成したイラストが多数並んでいるのが現状です。

検索結果
『AI生成ツール使用素材』というタグで絞り込みをした結果

　例として一般クリエイターによる素材投稿サイトであるillustACさんでの使用例です。AIイラストに触れている方なら分かると思いますが、検索結果に出てくる三点のイラストは恐らくにじジャーニーで生成されたイラストでしょう。

一応ページ内に記載はしている

　illustACさんに関しては、素材ページの下部にこのように『AI生成である事』を明示してはいますが、これを確認せずにダウンロードして使用する方も中にはいると思います。
　そんな場合、自分で生成をせずとも意図せずしてAI生成物……中でも特にヤバいにじジャーニーで生成された画像を使ってしまう可能性が出ちゃうんですよねぇ。

手描きの絵は高い👉AIなら安いよねという事実

　AIの魅力はその単価の安さと手軽さです。これは2019年時点のもので価格は人によりますが、ポスター級のキャライラストを描いてもらおうと思うと最低でも３万円は掛かります。
　私個人としては、これは絵描きの人が貰うに値する正当な価格（むしろ安いくらい）だと思っています。

　ですが、使用者側から見ると予算を可能な限り削りたいと考えるのが人情でしょう。そういう時に、AIイラストやフリー素材が選択肢に入るのは自然な流れです。
　かつていらすとやさんの躍進の影で、「カットイラストを担当するイラストレーターの仕事が奪われている！」と叫ばれていた時期がありました。

　いま、これに『生成AI』が入って来たコトで『いらすとや旋風と同じ事が繰り返されようとしている』……と言えば、大体の方は「そりゃそうなるだろ」と頷いてくれるはずです。

　安くて上手くて早い。牛丼チェーン店のような利便性と価格の安さ、手軽さが今の生成AIの立ち位置です。
　もちろん、１皿１００円の回転寿司チェーンが庶民の味となった一方で対面式の高級寿司店もまた客層や売り方を変えて共存してますから、絵師が完全に不要となる事は絶対にない……とは強く主張しておきます。

にじジャーニーで版権絵が出すぎる問題

　さてそういう中で注意したいのが、既存のイラストとの類似問題です。
　一応法律的に見れば、類似性と依拠性を争点に裁判で争って初めて結果が出るというものですが、人の心までは法律で縛る事が出来ません。

　タッチや画風は著作権保護の対象ではありませんが、この時の例のように既存クリエイターに似すぎている絵を知らずに使った場合……炎上リスクはどうしても付きまといます。
　一部にはAIの利用というだけで誹謗中傷に近い意見を投げかけてくる人もいますが、もし将来的に生成AIが一般に広く受け入れられるようになったとしても『パクリのような画像は非難を浴びる』ことは必定です。

　幸い、ほとんどのモデルでは版権絵に近いものが出る確率はそこまで高くありません。よほどプロンプトを極端にしない限り、まず発生しないと言っていいレベルです。

だがにじジャーニー、おめーはダメだ。

　そう言いたくなるくらい、この生成サービスは類似品を出しまくるんですよ。にじジャーニーはマジでヤバイです。
　その例を示していきましょう。

にじジャーニーで見る版権過ぎるイラスト（絵柄編）

　これは生成AI利用者として超有名人な852話さんが出力したイラストです。ツイート（今はポストなんでしたっけ？）内でも記載されていますが、プロンプトは『1990sの同人便箋 --ar 2:3 --niji 5』だけだそうです。

　その後に色んな方が検証や意見を述べていましたが、

  • この絵柄はCCさくら執筆当時のものではない

  • 眉の色味や顔立ちなど別なキャラクターの要素が混じっていそう

  • 杖の形状が公式のものと似ているが細部が一致しない

  • 全く同じ構図やポーズの絵は公式に存在しない

　ことなど、多数の意見が寄せられる事で判明しました。つまりこの絵はAIが作成した『CCさくらっぽい存在しない絵』だったという事です。

　これは私が『1990sの同人便箋 --niji 5』というプロンプトで、今年の４月に出力したイラストです。４枚中３枚が完全にセーラームーンに影響を受けています。
　ただ４枚目だけは、似ているけれど衣装も髪型もセーラームーンそのものではなく、あくまで絵柄のみが似ているイラストと言えるかもしれません。

　こちらの動画は韓国のアーティスト・VIVINOS氏によりYoutubeに投稿されているMVです。個人的にはOTOMEROIDがちょ～～～最高なのでぜひ聞いてほしいんですけども（脱線）。

　とにかく、音楽も絵柄も初期のプリキュアにインスパイアを受けています。他のMVも全て、各年代のアニメの楽曲や絵柄に寄せて作成されており、それが特徴となっているMVシリーズです。（最高！）

　このように意図的に絵柄を寄せる事で何らかの表現をする手法は手描きでもままあります。
　国内漫画とかでも、ギャグ的なシーンで急に絵柄が劇画タッチになったり、ガラスの仮面やジョジョみたいな絵柄になったりすることは多いですよね。

　これらの現状の事実を鑑みると、このセーラームーンっぽい絵柄だけどキャラは別物なイラストは別に問題ないってコトになります。
　実際法律的には問題がないでしょう。
（もしかしたらセーラームーンの頃の年代の、他のアニメキャラに似てる可能性はあるかもしれません。私には分かりませんでした）

　でも、この絵を行政や企業がポスターや販促用に使用する事は確実にリスクを伴います。そういうのが、にじジャーニーには特によくあるのです。

にじジャーニーで見る版権過ぎるイラスト（キャラ編）

　さて、絵柄に関する危険性を述べましたがこれは法的には問題になりづらく、知らずに使ってもワンチャンなんとかなるかもしれません。

　しかし、にじジャーニーにはもっとやべーもんがあります。
　それがキャラクターです。

　このイラストは、私が2022年12月に出力した絵です。
　プロンプトは『かわいい女の子。牛の耳。牛柄の水着。牛乳瓶を持っている。牧場。美しい光。』になります。

　ぶっちゃけて言うと、このキャラはアイドルマスターシンデレラガールズの主要登場人物・島村卯月そのまんまです。

　厳密にいえば、髪や目の色、胸のサイズ感などが公式と異なっていますが、もしこれを酪農家さんやJAがPRに使用したとしたら、絶対に「これは卯月のパクりだろ！」と指摘されることを免れないと思います。

　先に提示した通り、プロンプトの中には『アイドルマスター』も『島村卯月』も入ってません。強いて言うなら、シンデレラガールズには及川雫という乳牛モチーフの衣装を来たキャラクターがいます。
　もしかしたら、牛柄の水着＝及川雫＝デレマス＝卯月という流れで描画されたのかもしれませんが、そんな事生成した本人は全く想定していません。

　さて他にも版権キャラが意図せずして出る例は沢山あります。

　このイラストのプロンプトは『剣を構えた少女、女騎士、シリアス』です。２つ目のイラストはもろにFateのアルトリアですが、１枚目も「FFTのアグリアスに似ている」とフォロワーさんから意見をもらいました。

　となると、３・４枚目も雰囲気が似ているのでどこかに似たキャラクターがいるかもしれません。

　これは『魔法少女』というプロンプトのみで生成したイラストですが、明らかな版権キャラクターが出力されました。唯一ちびうさのみ「そのまま」とは言い難い所がありますが、黒に近いのではないかと私は感じます。
　またこれ以外にも、プリキュアに似たキャラクターが出てくる時もありました。

　これらは元ネタが分かる私のようなオタクから見たら『これはヤバイから使わないでおこう』と思えますが、オタク知識に疎い層が見たら誤って使用しかねません。

　そして二次創作として投稿する分には現状の慣習で問題ないかも知れませんが、公の場で広告宣伝やチラシのカットイラストとして使用した場合は、必ず非難される事になるでしょう。

　もちろん、私自身も知らないジャンルは沢山あります。オリジナルのロボットの絵を出して投稿したら、実はガンダムだった……といった事が起こる可能性は十分あります。
　そして、ローカルや他の生成サービスと比べてその危険性がめっちゃ高くてヤバイのがにじジャーニーです。

見落としがちな版権そのままパーツ

　ここまでは絵柄、そしてキャラクターを見てきました。これらはオタクならある程度、意識的に避ける事が出来そうです。
　ただ、問題は見落としがちな部分にも潜んでいます。

　それはズバリ、小物やアイテム類です。

　このイラストは『剣を持つ少年、湖、騎士』というプロンプトで生成しました。それにより、アルトリアというキャラクターそのものは出なくなりましたが、彼女の持つ『約束された勝利の剣（エクスカリバー）』は殆どそのままの形で出て来てしまったのです。

　本元と比べると、柄の色など違いはありますが柄から刀身へと向かう青い色と金の特徴的な装飾はほぼそのままです。

　と言う訳で、こんな感じに『小物や小道具』にそのまんま過ぎるものがにじジャーニーはめっちゃ出ます。
　と言う事は、服飾や背景・建物なんかにも版権そのまんまなモノが紛れ込んでいてもなんらおかしくありません。

　今回は魔法少女の杖やファンタジーの剣、などといった一般的なオタクなら分かる程度のパーツを取り上げましたが、キャラ編と同様にこれでは自分の守備範囲外とする分野で既存のものが出た時が怖いです。

　自分の場合ですと、銃器類には本当に疎いので『ウォーターガンを出そうとしたら実はスプラトゥーンの武器だった』なんてことが起こり得る可能性があります。

どうしてこんなに似てきちゃうのか

　これは自分が男性のイラストの研究をしてた時の結論なんですが、現状の生成AIは学習数の多いものに偏って出力されがちです。
　生成AIは男性のイラストを出しづらいのですが、これは学習データのほとんどがカワイイ女の子の絵で構成されているため起こります。

　特ににじジャーニーと同じく生成AIサービスとして有名なNovelAIはdanbooruというイラスト転載サイトを使って学習していますが（言っておくと、個人的には転載サイトはクソだと思ってるので学習が合法だとしても『転載はクソ』と言いたいです）、danbooruは男性向け作品を中心に転載・評価しているためその性質上大きく偏りが発生しています。

　例えば、比率で見ても男性のイラストは女性のイラストより圧倒的に投稿数が少ないです。また女性のエッチなイラスト特有の、顔のない竿にも男性を示すタグが入れられているのでより男性の割合は減っています。
　また評価をする側が主に男性向けに集中するので、評価数によって割り当てられているクオリティタグから男性のみの絵はほぼ除外されていると考えられます。

　これらの要因が重なり、NoveAIでは工夫しないと男性の絵が出しづらいという状況となっていました。

　一方でにじジャーニーで版権絵が出やすい問題ですが、これも単純に『版権絵を集中的に大量に学習している』事が原因だと考えられます。

1girl, knight, armor, holding sword, sword, serious, BREAK, beautiful lake, sunlight filtering through trees,

　これは私が普段使いしているモデルで生成したものです。騎士や鎧、剣や湖などを適当に入れていますがアルトリアには似てないし、剣もごく一般的なものに見えます。
　とうか、剣が日本刀に引っ張られてる事の方が気になりますね。あと４枚目だけちょっと形状が特徴的なのが引っかかる程度でしょうか。

上の画像と同じプロンプトを使用

　一方でにじジャーニーに同じプロンプトを渡した結果がこちらになります。結果としてはアルトリアっぽい人と、エクスカリバーっぽい剣に見事に寄せられてしまいました。

　この結果を見れば理由は大体察しがつきますよね。
にじジャーニーは、特定の画風や特定のキャラクターを思いっきり過学習ぎみに学習させているってことです。

　学習させるイラストを選別し、偏らせて、過剰に学習させる。そうすればswordの関連付けが二次創作でも人気のあるfateシリーズのアルトリアに偏るのも納得です。

　なのでにじジャーニーを利用していると、出てきた絵が『意図せずして〇〇のシリーズの××ってキャラに似てる』みたいな事が発生しがちです。
　実際ににじジャーニーがどういった学習を、どういった学習データで行っているのかは不明ですが、そのやり方や内容は大分偏っていると見ていいでしょう。

　これでは趣味で使うにはいいにしても、商業利用するとなったら安心して使いづらいですよね。いや趣味で使う人にとっても、ここまで行くともはやリスクかもしれません。

ぼくたちはどういきるか

　まず、現状の出力結果を正しく精査できる自信がないのなら『現状のにじジャーニーの出力画像を商用利用する事はリスクが高い』と判断せざるを得ません。

　配布素材サイトを利用する場合なら、使用したいと思ったイラストがAI生成と明示されていないかをシッカリと確認するのもマジで大事です。

　また出力された画像に類似性がないか、googleレンズなどを使って調査する事も必要でしょう。

　これは件の東京都教育委員会のパンフレットの絵ですが、一部の人が『氷菓に似ている』と言っていました。そのままの絵はないようですが、googleレンズで検索をすると確かに氷菓のキャラクターがヒットします。

　黒髪の制服のキャラクターは日本人の特徴を取り出してるので恐らく法的に争ったとしても『ありふれたもの』と判断される可能性が高いとは思いますが、確認をちゃんと行っていれば無用なツッコミの一つは避けられたかもしれません。

　もちろんgoogleレンズが全て正しいとは限りませんし、これで全てが解決する訳でもないでしょう。
　ですが、ここまで述べてきた事が解決しない限りは、現状にじジャーニーを企業や行政・商業シーンで使用することは、避けた方が無難と私は考えています。

　今後のにじジャーニーのアップデートなどで、これらの問題が解決してくれることを強く願っています。

最後に

　生成AI利用者だからこそ、伝えたかった話をしました。
　もしかしたら生成AIへの無用な攻撃を生む内容かもしれませんが、こういった事も知っておくことで避けられる事故もあると信じて、クッソ長い記事を書いた次第です。

　ここまでお読みいただき、本当にありがとうございました。

この記事が気に入ったらサポートをしてみませんか？