この世の中にはおそらく「AIイラストヤクザ」が存在するだろうという話
生成AIの是非について、昨今、世論が結論を出しつつあるように思う。
個人的な基本スタンスはおよそ半年前に上の記事で述べた通りなのだが、文章にしろ絵にしろ動画にしろ、生成AIの生成物を利用してよい局面は、自らがエンドユーザーである場合にほぼ限られると思ってよさそうだ。
たとえば、あまり詳しくない分野について概要だけでもAIに教えてもらう、遊んでいるゲームのマイキャラに自画像が欲しいので絵を用意してもらう、ダンスチームの中でざっくりしたイメージを共有したくてイメージビデオ的なものを生成してみる、といったケース。AIによる生成物が個人とその周辺以外になんら影響を及ぼさない、いわゆる私的利用の範囲内である。
この場合に限れば、生成AIそのものが違法とされる世の中にならない限り誰も文句を言えないし、また、誰かに文句を言われる筋合いもない。AI連携を謳って打ち出される新型スマホのCMなどでも、だいたいこうした用途を「生成AIの使い方」として想定しているように見受けられる。
しかし、生成AIの出力物を個人レベルに留めず、公に発信しようと考えたとたん、問題は一気に噴出・複雑化して、時には違法性すら帯びてくる。
AIが示した知見を鵜呑みにして学術論文に転用すれば、ハルシネーション（AIが説得力ありそうな嘘を適当にでっちあげてしまう現象）に足元をすくわれる。AIが生成した画像や動画を何かの媒体で発表すれば、既存の著作物との類似性や依拠性が問われて著作権法違反と見做される危険性を孕む。中でもディープフェイクなどはモロに社会問題化している有様だ。
なぜこんなことになるのかと言えば、現在の生成AIは簡単に悪用されすぎるからだろう。
この「悪用」というのは、世論形成や政治的混乱を狙って行われるハイレベルのものだけに限らない。ただ漠然と「こんな画像があったらいいな」程度の気持ちでAI生成に頼る程度のローレベルですら、時に他者の権利を侵害してしまう。悪用しているという自覚もなく、法的にNGな領域に踏み入るのだ。それが今の生成AIの実態である。
これらを「否」とする世論の高まりを受けて、生成AIを開発・運用するメガテック各社も遅まきながら対策に乗り出した。
文章も、画像も、動画も。AIが生成したものはそうでないものと明確に区別されうる時代がじきに訪れる。ディープフェイク問題の抑止はもちろん、自らをAI絵師などと嘯いて承認欲求を充足させるような行為も意味をなさなくなるだろう。事実を記録した動画や写真、人間が知恵を絞って作り出したもの、AIによって機械的に生成された作品はそれぞれ区別され、住み分けが進んでいく。めでたし、めでたし。
と、思っていたのだが。
問題はそう簡単ではない、と近頃になって気がついた。
現代のネット社会において目の前のコンテンツが本物か偽物かにはさほど意味がないし、本当に悪い人たちはそこに付け込んでずいぶん前から荒稼ぎを続けているのだと。
上の記事は生成AIと直接関係のない無断転載について取り上げられているものだが、ここからの話の前提となるので紹介させていただいた。
内容を簡単にまとめると、
・ネット上でアクセスを稼ぐと金が儲かる仕組みがある
・手っ取り早くアクセスを稼ぐため無断転載が横行する
・こうした無断転載は大規模かつ組織的に行われている
ということになる。
ひところ話題になった漫画村（商業作品を無料で公開する海賊版サイト）のほか、いわゆるアフィカスなどもそうなのだが、ネット上で法や倫理を無視してアクセス数と金銭を荒稼ぎしている人たちを追っていくと、怪しいペーパーカンパニーだとか国内外の半グレ組織だのが必ず出てきて、責任の所在は曖昧になっていく。追跡して正体を暴き責任を問うのは至難の業だ。
少々乱暴な物言いになるが、ヤクザないしそれに類する反社会的な存在がシノギとしてやってる疑いが濃厚と断じて差し支えない。なにせヤクザだから法や倫理なんて糞食らえだし、シノギだから金になりさえすればよく、そのために無辜の市民がどれだけ泣こうと知ったことではないのだ。わかりやすい。
ここまで説明すれば、聡い方ならお気づきだろうか？
これらのアクセス稼ぎは、どこかからコンテンツを剽窃してくることが最初の一歩になる。人気があってアクセスを稼げるものなら何だっていい。発売したばかりの週刊ジャンプの人気作品。可愛い子猫や子犬がじゃれてる画像。海外でバズった衝撃映像におもしろ動画。著名人や芸能人が出演しているTV番組の切り抜き。そして……。
生成AIがジェネレートした美麗な動画やイラストもだ。
考えてみれば、ヤクザのシノギとしてこんなに使いやすいものはないのだ。生成AIが作成した動画やイラストは莫大な数の絵画やイラストを学習させたデータセットから生まれているので、具体的に誰のどの作品を剽窃したとか無断使用したとかの問題になりにくいしね。LoRAなど生成AI関連技術を使いこなせるなら、人気のイラストレーターの絵柄や流行のアニメに寄せたキャラに性的でキワドい格好をさせるのも自由自在である。
反AIの立場で論陣を張る人たちは、生成AIのデータセットが権利的あるいは倫理的に問題があるという前提に立って、これを使うことは生身のクリエイターたちに対する冒涜である、というロジックを用いることが多い。いわば生成AIを使う人たちの良心に訴えかけようというアプローチである。
でもそれは、恐らく、何の意味もなさないのだ。
特に、プロが描いたイラストと見分けがつかない高度な生成画像を大量にSNSへ投下し続け、フォロワー数が10万やそれ以上に膨れ上がっているようなアカウントだ。これらは規模的に考えても、運用に必要な専門知識やかかる手間暇などを鑑みても、個人が趣味でやっているとは到底思えない。反社まがいの組織が純粋に資金調達のために運用していると考えた方が筋も通る。つまり彼らは最初から良心など持ち合わせていないのである。
そう。恐らく彼らは、ヤクザなのだ。
だから、絵柄の模倣や剽窃に躊躇がない。
だから、漫画家や絵描きたちの憤りにも興味がない。
だから、シノギの邪魔をする者は容赦なく攻撃する。
だから、生成AI全体の印象が悪化しようと意に介さない。
人の目を惹き、アクセスを稼ぎ、金になるなら、それで構わないのだ。
とはいえ、実際のところはわからない。少なくとも僕は、これが真実かどうかを検証する手段を持ち合わせていない。単なる推理、または妄想の類だろうと言われてしまえば返す言葉もない。
ただ、生成AIが悪い人たちのシノギになりうると気付いた瞬間、いろんなことが怖いくらいに繋がって腑に落ちたことは確かである。僕ごときが思いつくようなことは本当に悪い人たちがとっくに実行に移しているだろうという確信めいた予感とともに。
もし「そんなことはない、自分は個人でやっているし、誓って反社やヤクザとは無関係だ」というAI絵師がいたとしても。
ここまで述べてきた通り、AIが生成したコンテンツを使ってアクセスやPVを稼ぐという行為は、本質的な意味で海賊版商売やアフィカスと何も変わらないのだ。この点だけは最低限、自覚しておいて欲しい。
それは決して、誰かの賞賛や尊敬を集めうる行為ではないのだと。
○
いやしかし、生成AIの今後ってどうあるべきなんだろうね。
ヤクザや反社まがいの悪人たちが一方的に得をして、無辜の市民は損をするばかり、なんていうこの構図、OpenAIもMicrosoftもGoogleもAppleも今のところ全く考えてないんじゃないか。ここで述べた仮説が芯を食っていた場合、企業イメージの毀損も著しいだろう。
当面のところ、電子透かしと利用規約で用途を縛っていくくらいしかないのかしらん？
2024/09/12
追記：
その後、いろいろと情報提供をいただいた。
あるケースでは、R18系同人ショップで生成AIを使用したコンテンツを超低価格で販売、ランキング上位など目立つ場所に押し上げたのち、法外な高価格設定へ切り替えて収益を上げようとする詐欺まがいの手法が用いられている、とか。
また、Skebなどのクリエイター仲介サービスで生成AIによる生成画像が納品不可となっているのは、モロに反社会的勢力のマネーロンダリングに利用されかねないがための措置ではないのか、とかとか。
いやはや、もはや呆れるのを通り越して、よくもまあそんな悪いことを次から次に思いつくな、と感心してしまうね。生成AIの登場でいちばんの受益者となっているのは根っからの悪人たちであるということは、どうも間違いなさそう。
現実問題、これら生成AIの悪用を抑止する方法はあるんだろうか。
仮に抑止できないとなった場合、生成AIが社会に与えるリスクに対し、善良なユーザーが受益すべきベネフィットって、割が合うものなんだろうか。
個人的にはどうもこの辺、バランスが取れそうな気がしないのだけれど。かといって、いまさら生成AI全面禁止もおそらく不可能だろうしな……。
（核兵器廃絶すら成し遂げられない人類にはどだい無理な相談だ！）
さあ、今後、生成AIを待ち受ける未来は何色なのか。
正直言うと関わり合いになりたくないんだけど、そんなことも言ってられないんだろうね。
2024/09/13
追記２：
まんまコレやないかい（白目
この事件ではAIが生成した音楽が悪用されたわけだけど、イラストでも全く同じことが可能なので、やってる連中は確実にいるだろうね。もはや証明されたも同然。なんともはや。
ついでと言っては何だけど。
実は、ChatGPTにも本記事を読み込ませてみて、内容について感想を聞いてみたんですよ。なかなか興味深かったので共有しておきます。
ChatGPT（OpenAI社）も、生成AIが悪用されて社会に悪影響を与えるケースについて危惧しているようで、適切な法規制や防止策を社会全体で整備していくことが重要という認識をすでに持っているらしい。
ホントに、SNSとかで推進派と反対派の不毛な言論バトルなんかやってる場合じゃないんですよ。そんなのもう周回遅れもいいところ。生成AI運用の現実的な落としどころとか、社会的なコンセンサスとか、建設的な議論の元で健全に醸成されて欲しいなと。僕は心から願っております。ハイ。
2024/09/15
この記事が気に入ったらサポートをしてみませんか？