見出し画像

【ルポ】画像生成AIの不都合な真実 ～私はXで何を見たか ～

Lamron🍞

悪が勝利するには、善人が何もしないだけでいい。

エドモンド・バーグ

最大の悲劇は悪人の残酷さではなく、温厚な人々の沈黙であった。彼らは沈黙する事で「正義の平和」ではなく「奴隷の平和」を選択した。

キング牧師

これから私が話す事は一切脚色の無い真実である。だがそれをそのまま書くとあまりにも現実から遊離したフィクションのように見えるため、あえてフィクションの形式で書くことにした。その方がかえって頭に入りやすくなると思ったからである。

だが繰り返すがこれは私が目撃した真実である。フィクションではない。


事の発端は一年前、邪知暴虐なるElon MuskがTwitter APIを有料化し、私のトレンド解析botが動かせなくなったことだ。仕方なくTwitterの代替サービスを探し始めた私は━━そう、当時はまだ他のSNSをTwitterの「代わり」としか思ってなかった━━BlueskyというSNSが最有力であることを知った。Blueskyの中の人から招待コードをもらいアカウントを作ることができた私はTwitterでは存在すら知らなかった多くの人々を知った。一つのスマホにブルアカを三つ入れていて謎の文字 (ଳ)を知ってる人、会社法マフィア会社法立案担当者の会の存在と機械学習学会参加者数両方を知っていて最高裁に戦車で乗り込みたいと言っている人、脳の認知限界とSNSの問題を論じられる人。そこでは私が想像さえしたことない事柄について議論がされていた。世界はこんなにも豊穣だったのか、と本当に思った。
中でも特に大きいのはSNSそれ自体が抱える問題だ。いいね等の数が可視化されることで承認欲求を暴走させ人々を過激化させるシステム。ブロックしてもそのスクショを貼られ晒されるため悪意を防げないことなどだ。トレンド解析botの副産物として作った最も反響を集めているポストbotではアメリカ人も同様の事について話し合っており「ナチスはブロックするしかない」と言っていた。ここでいう「ナチス」はトランプや白人至上主義者や性差別主義者など「ナチス的なもの」の総称だ。「Twitterはいつの間にかそこまで酷い惨状になっていたのか」と私は衝撃を受けた。SNSの問題以外にも様々な事が話し合われていたが、その中には画像生成AIに関連するものもあった。
画像生成AIに問題があるという話は私も聞いていた。オリジナルをそのまま出力してしまうとか、一部の●●●悪質なユーザーがイラストレーターに対し「お前の絵で儲けさせてもらった」とわざわざリプライを送ったとかだ。多くの絵描きが一斉にpixivで絵を非公開にしたというニュースも飛び込んできた。

そして生成AIについて検索した私は画像以外の分野(例えばプログラム)でも問題が起きていること、AdobeやNvidiaなどグラフィック関係の超有名企業がわざわざ「著作権的に問題の無い」画像生成AIを発表していることを知った。それはつまり現在の画像生成AIは「著作権的に問題がある」ということでは無いか━━と私は推測した。
「権威主義」というのは悪く言われがちだが、私は必ずしも悪いとは思わない。ある分野について深く知っている人間でなければ持ちえない知見というものは確かに存在するからだ。具体的には信用できる分野(経済学のように「学問」のハズなのに「派閥」が存在したりせず●●学問として成立している分野)で、多くの専門家の見解が一致してるなら信頼してもいいだろう。「権威主義」の問題とされているものは、後述するようにむしろ「本当の権威主義」では無い●●●●事だ。

そこで書いたのが上記の記事だ。これは今見るとかなり問題があるが、それでも基本的な点は今も通用する。囲碁などは「勝利」という形で客観的な「ゴール」が存在する為AlphaGoのようにAIが自己進化できる。翻訳などもある程度は「正解」が決まっている。しかしイラストなど芸術分野では「こういう特徴を持った作品が優れた作品」といった基準が存在しないため、同じAIとして一括りにはできない。

芸術分野となるともはや「それを見て（聞いて）いいと思ったかどうか」ぐらいしか基準がありません。そのためAIが例えばランダムに「100x100pixelのキャンバスで座標(0,0)のカラーコードを#FFFFFF、(1,0)のカラーコードを#000000……」と画像を生成し何かを元にスコアを出して「このような特徴を持った絵を描けば高いスコアが得られる」というような学習を行うことは不可能です。

【アーカイブ】「現在の」画像生成AIに関する議論は何故混乱しているのか、そして「現在の」画像生成AI（の活かし方）にはやはり問題があるのではないか｜Lamron🍞

断っておくと、私にAI(＝深層学習)の知識はほとんど無い━━今もだ。だがそれでも「原則論」はわかる。NvidiaのJim FanというトップAI研究者が訓練データの範囲でしか機能しないことは機械学習の基本と言っていたが、「どんな天才でも教えられた事のない歴史の年号はわからない」という事は天才でなくてもわかるように、上記も原則さえ理解していればわかることだ。
とは言え私は正直不安を感じていた。生成AIという「最先端分野」を擁護してるのは頭が良く技術に詳しい人々だろうから私の記事などすぐ論破されてしまうのでは無いか、と。
だがそんなことは起こらず、程なくして早稲田大学国際著作権シンポジウムが開かれた。

ここで米国著作権局長が問題を指摘するだけでなく推進派の赤松健がクリエイターへの還元に言及した。一体どういう事なのか、と私は思った。「画像生成AIは(人間のように)イラストを学習●●に使用してるだけで著作権は侵害してない」というのが推進派の主張では無かったのか、なのに何故「使用料」を支払う必要があるのか？ 「反対派」の専門家が問題を指摘するだけではなく推進派の人間までそれを否定すると言うのはどういうことなのか？
とは言え、専門家が問題があると判断したのだからただの一般人である私がこの問題に言及する必要はもう無くなったと思った。後は専門家の間で議論が進んでどこかに着地するだろう、と。
だが、そうはならなかった。これはそういう問題では無かったからだ●●●●●●●●●●●●●●●●●●。

技術的特異点

犠牲をはらったなら、それだけのものをつかみとらねばならん。それでなければ、歴史は無意味になる。(中略)日本という国は、完全にほろんでしまってもよかった。国家がほろびたら、その向うから、全地上的連帯性をになうべき、"新しい人間"がうまれて来ただろう。

小松左京「地には平和を」

責任ある超知能

神の、いやTwitterの機械仕掛けの神アルゴリズムの配剤か、私は人工知能学会の発表を目撃した。そこにはこう書いてあった。

「責任ある超知能が、遍く生命から苦痛を取り除いた世界を実現する」

ムーンショット

続けて私は「ムーンショット」という単語を目にした。そして検索して出てきたのは内閣府●●●のサイト(go.jpドメイン)だった。

ムーンショット目標 - 科学技術政策 - 内閣府

そして立て続けに以下のツイートを見た。

「AIは新しい聖書さえ書ける。数年後には正しい宗教が存在するかもしれない」

これらを見た時、私の中で眠っていた記憶が突如として蘇った。

技術的特異点の物語●●は科学理論などではない。むしろそれは、ジョン・ダービによる携挙の神学●●理論を、SF●●の言葉で書き直した複製である。 技術的特異点は、単にキリストの再臨をテクノロジー的にリメイクしたものに過ぎない。超知性的コンピューターが神の役割を担っているのである。（by ジョン・マイケル・グリア)

ひとたび我々の知性を超えた人工知能が実現しさえすれば、ただちに超越者が生み出され、あらゆる問題の最終的解決がもたらされると信じるためには、相当な論理的飛躍を受け入れなければならない。その表層的なテクノロジー的装いを剥ぎ取ってみれば、中にあるのは古くからある終末論●●●そのものである。すなわち、我々の生きている間に、何らかの超越者が地上に降臨し、全ての現世的問題からの解放と永遠の命をもたらすという信条なのだ。…このような新たな終末論が、近年の経済危機以後、急速に蔓延したのは決して偶然ではない。すなわち、現代の解決不可能な諸問題から眼を背けさせ、来世において救済を授けるという現実逃避としての役割を担っていると言える。（by アニー・レイヴィ）

現実を見よう。技術的特異点は、科学的なビジョンというよりは宗教である。(中略)エンジニアと科学者は、我々がこれらの世界の問題に立ち向かい、解決策を発見することを支援するべきなのであって、技術的特異点のような夢想的、疑似科学的ファンタジーに浸るべきではない。 (by ジョン・ホーガン)

技術的特異点#宗教批判的観点からの批判 - Wikipedia

「2045年問題」とか「シンギュラリティ」とかの言葉は知っていたハズだった。上記のWikipediaの記述も確かに読んでいた。しかしこの時まで完全に忘却の果てにあった。だが雷に打たれたような衝撃でそれを思い出したのだ。
しかし私は思わず「ネタ扱い」してしまった。極限状況に陥った人間が笑うのはよくある事らしいが、私は正常性バイアスに囚われ「これはあくまで 一部のおかしな人間●●●●●●●●●が信じてるだけに過ぎない」と思い込もうとしたのだ。

「絵描きのサブ垢」

同時に私は別の奇妙な体験もしていた。生成AIについてツイートするとbioに「絵描きのサブ垢」と書いてあるアカウントにいいね/RT(当時はまだRPでは無かった)されるのだ。その中の極一部にはフォロワー数万以上のイラストレーターの本垢によるいいね(タイムラインに表示されるRTでは無い●●●●)もあったため偽物では無いようだったが、当時の私には何故そのようなアカウントが存在するのかがわからなかった。Blueskyで「生成AIについてツイートすると『絵描きのサブ垢』って書いてあるアカウントにいいね/RTされるんだ」「不思議だねー」という会話を呑気にしていた。
そして生成AI問題について語っているアカウントを見て私は奇妙なことに気づいた。「将棋AIは問題無いから画像生成AIも問題ない」と言ってる「AI絵師」がいるというのだ。私はなんて低レベルないちゃもん●●●●●だ━━と思った。棋譜には著作権は無いが、イラストには著作権がある。そればかりかAlphaGoZeroのように人間の棋譜を一切参考にせず人類最強の棋士を上回った囲碁AIの存在は一般でも話題になったはずだ。それと「学習元」を必要とする画像生成AIが同列に並べられるはずが無いだろう。「議論を引っ掻き回す」ために「わざと」そんなことを言ってるのだろう━━当時の私は本気でそう思っていた。
他に「エンジニアにはオープンソースの文化があり知的財産を共有するのは普通なんだ」という言説も目にした。何を言ってるんだこいつらは、と思った。それ以外にも「生成AI推進派」の言動はおかしなものばかりだった。今にして思えばこの時点で何か●●がおかしいと気が付くべきだった。

そして私は上記の記事を書いた。だが私にとってはこれもあくまで「基本的」な事を書いただけのつもりだった━━「オープンソースとかの用語は一般には広まってないから知らないのも無理はないが、少しでもかじっていればすぐ間違いだとわかる。自分には『その程度』しか書けないが、三大学術誌などの権威やハリウッドも否定しているのだから問題があることは間違いないし、それらの情報をまとめることには意味があるだろう」━━その程度のつもりだった。
私は生成AIという「最先端技術」━━実際、LLM(大規模言語モデル)だけならそれは本当に新技術であった━━についてもっと高度な議論が展開されるのだと思っていた。だがそんなことは起こらなかった。「ラッダイト」「人間も無断学習してる」「二次創作」と同じ主張がbotのように繰り返されていた。そもそも、赤松健の「クリエイターへの還元」という主張にも大きな問題があるのだ。どうやって還元するのかとか、そもそも学習されたくないとか(勝手にイラストを描く契約を結ばされるようなものだから)。だが、AI絵師の主張は「無断学習は問題ない」というもので、「許可」も「学習料の還元」も不要というものだったから、彼らは本来なら赤松健にも反論しなければならないハズなのに誰もそんなことはしなかった。
一向に状況が変わらず、どうも本当に多くの「絵描きのサブ垢」が悩まされてるようだと気づいた私はTwitterでの情報収集を本格的に始めることにした。そして私は奇妙なものをいくつも目撃することになった。「最先端技術」のはずの生成AIを使用・擁護している人間の言動が異常極まりないのだ。批判している人を「頭がおかしい」という名前のリストに入れたり、ネットリンチしたり、幼女トロッコ問題と言ったり。

画像生成AIユーザーの「幼女トロッコ問題」発言に多くの賛同の声が集まる - Togetter

単に数が多いと言うだけでなく割合としても100%異常者なのだ。
そして「イラスト投稿サイト」のハズのpixivに「AIが生成した実写━━のように見えるが非実在であると主張されていた●●●●●●●━━児童ポルノ」が大量に投稿される事件も起きていた。

だが「AI絵師」はあくまで画像生成AIというソフトの「ユーザー」に過ぎない。その中に低レベルな人間がいるのはおかしくないだろう。IT系の知識がある人は違うのではないか、とその時の私はまだ思っていた。

「大御所」の失墜

Googleの死

「Twitterは世界の下水道。みんなBlueskyに行くべきだ」と思っていた私はその頃招待コードを配るのと同時にBlueskyで知った情報をTwitterに流す情報輸入業のようなことをやっていた。当時のBlueskyでは既にGoogleは死んだと言われていた。

R.I.P Google

「Kから始まるアフリカの国」と検索すると、「存在しない。Kenya(ケニア)が最も近く"K"の音で始まるが、実際には"K"の音でつづられる」と返ってくるのだ。天下のGoogleがAIと銘打ってこんなものを出すとは信じがたかった。私は「Googleはすぐに公開停止して何か対策をするのでは無いか」と思っていた。だがそうはならなかった。笑えない問題も起こしたまま日本語版でも公開された。

そして「クリーンな画像生成AI」を発表したはずのAdobeも汚染されているという話が出てきた。Adobe Stockには誰でも海賊版を投稿できるためだ。後に知った話だが、Adobeは元々クリエイターに殿様商売をして嫌われていたそうだ。

「画像生成AIエンジニア」

ハリウッドのストライキの時、「原因は生成AIでは無い」と主張するアカウントがいた。そのアカウントはたびたび変なことを言ってるのを見かけていたが、ポートフォリオには論文のリストが並んでおり私は一応実績のある研究者なのだろうと思っていた。だがその人物が「私はAI研究者だが搾取が起きうると問題提起した論文も書いている」と提示した論文●●を見た私は困惑した。概要には「倫理的な問題が無い事が示された」と書いてあるのだ。いや、本当に画像生成AIに問題が無い事が証明されたと言うならそれに越した事は無いのだが、その論文●●は読むに堪えないものだった。以下のアンケートで賛成意見が多いから問題無いというのだ。

尾崎安範「イラスト深層生成モデルを活用する受容性の調査」

当時(今もだが)問題とされていたのは「無断学習」だ。だが上記の質問文1.と4.では本人の同意が前提とされている。本人が同意していればそりゃ問題無いだろう。そして3.では「仮想のイラストレーターを学習」と書いてある。画像生成AIが「学習」するのはあくまで「画像」であって「イラストレーター」では無い。そもそも「仮想のイラストレーター」とは一体何なのか。極めつけは2.だ。私も最初読んだ時勘違いしてしまったが、これはそもそも日本語がおかしい。「イメージコンセプトを作成する際」「人工知能を使った作品をもとにした作品を提供」とはどういう意味なのか。何度読んでも混乱する。
この論文●●をキッカケに私は他のプロフィールもおかしな点ばかりであることに気づいた。例えば同人誌の論文を査読付きと言っている。同人誌の主催者による「審査」はあったろうが、それは普通査読とは言わないだろう。GitHubアカウントのトップは当時READMEしかない実質空のリポジトリ３つが占めており、今もスターを一番集めているのは一行もプログラムを書いてないWIP(開発中)と称するリポジトリだ。大学院での研究は「視線によるユーザーインターフェース」と称するただの低レベルなソフトだ。

この程度の能力しか持たない人間が「査読付き論文」に貢献できるとも思えないし、「著者」が900人以上いるイグノーベル文学賞を受賞した論文のように名前を載せてもらっただけではないか、と私は疑念を抱いた。
他にも以下の記事に書いたように生成AIに積極的な肯定発言をしてるのは有象無象ばかりであった。

だがこれらを見てもなお私は「これは極一部の例外に過ぎない」と信じていた。「よくわからねえ奴もいるが圧倒的な知識で技術解説をできるエンジニアもいるはずだ」、と。

あらいずみるいAI「疑惑」

同じころ、「あらいずみるいがイラストAIを使用した」という疑惑●●が持ち上がったが、これはそもそも変な話なのだ。だって画像生成AIは「合法な最先端の素晴らしい」ツールのハズなのだから、「あらいずみるい先生はAI使ってない！」と否定する必要は無いだろう。

おそらく、ベテランのイラストレーターでもAIのイラストをUPしている事例が多いため、少しでも大御所の絵柄が変わると、今やなんでもかんでも「AIだ」と突っ込むXユーザーがいるのだろう。しかし、こうした思い込みによる攻撃はもちろん誹謗中傷に当たるし、なによりイラストレーターの創作意欲を削ぐことに繋がらないか、筆者は心配である。実際、盗作疑惑がかけられて（もちろん濡れ衣なのだが）筆を折った漫画家、イラストレーターを知っている。

「生成AI使用疑惑」でイラストレーターが制作工程を公開　”AI警察”にクリエイターはどう向き合うべき？｜Real Sound｜リアルサウンド ブック

「ベテランのイラストレーターでもAIのイラストをUPしている事例が多い」ならその名前を屏風から出してほしい。「誹謗中傷」になるからできないのだろうか。イラストAIを使うことは何の問題も無いはずなのに？ 
「イラストAIを使うことは問題無いがイラストAIを使ったのかと聞くのは誹謗中傷」とはどういう事なのか。なぜ「AIだ」と突っ込むことが誹謗中傷になるのだろう⸮ 「液タブで描いたんですか」と聞いたら誹謗中傷になるのだろうか⸮ なぜ盗作疑惑と似た扱いになるのだろう⸮
「AIを使うことを悪いことのように言う連中がいるからだ」とか「デジタル作画が出てきた時の批判と同じ」といまだに言う人々がいるが、だったら「あらいずみるい先生が生成AIを使っても何の問題も無いのに批判する時代遅れの連中め！」という形の批判になるはずだし、むしろ「画像生成AIを使いこなせるあらいずみるい先生はスゴい！」と称賛の声が上がってもおかしくないだろう。なぜ「あらいずみるい先生がデジタル作画疑惑を否定」のような言葉遣いになるのか。

なお、「私は長年の熱心なファンなので絵柄の変化を知っている」と言う人も見たが、本人が8カ月前に公開したのは以下のイラスト(左)である。

ちなみに(手描きであることを証明する必要などないはずなのに何故か●●●記録していた)タイムラプス●●●●●●はレイヤーパカパカと言われていた(「制作過程」なのに線を引く過程などは無く「結果」だけが突然現れるため)。

悪夢 - 闇よりもなお暗き存在もの -

これが最悪だ、と言っていられる内はまだ最悪では無い。

シェイクスピア

だが、時を経るに従い上記の例がおままごとに見えるようなニュースがTLに流れて来るようになった。毎日、いや一日に何度もだ。以下はその極一部だ。

正式な「ニュース」にはならないというだけで、特定のイラストレーターの絵柄で勝手にエロイラストが作られたと言った話もたびたび流れてきた。日本語記事が無い「小さな」ものなら、AIフェイクが蔓延した結果「偽物の指」を付けると「なんだしょうもないAIフェイク画像かw」と思われ証拠と見なされないといったものもあった。
私は最初生成AIはもっと小さな問題だと思っていた。問題が大きくなるのならそれはそれで何らかの対処が行われると思っていた。だが一向にそうはならず事態はどんどん大きくなっていった。

「10万円配りおじさん」

そして私の「生成AI推進派」に対する不信感もどんどん増していった。あるイラストレーターがラフを渡したらそれを元に生成AIで勝手に絵を作られたと被害を訴えたところ、「10万円渡すからその証拠を出してくれ」と言った人間がいるという話題でTLが騒然となったことがある。

そんな奴がいるのか、と思っていた時「その人はペテン師だ、このツイートで問題が指摘されている」と不意に私のツイートの引用通知が来た。そこで初めて私は「その人」が先の論文●●と称するものを誇らしげに掲げながら画像生成AIエンジニアを名乗っていたのと同一人物であること、そしてその人物が生成AI界隈で「優れた技術者」扱いされている事を知った。
続けて私はbioに数学をやってると書きながら「反AI運動で数百万人の犠牲が出る」という何の根拠もない主張を信じているアカウントも見た。私は「将棋AIと画像生成AIの区別もつかないのは『AI絵師』の中でも更に最底辺だと思ってた」とつぶやいた。するとbioに「溶接管理技術者1級」など立派な肩書を付けたアカウント達から「どっちも同じ機械学習だろ？」とか「AIには『学習元』が必須であることを知らんのか」と言ったクソリプが沢山付けられた。
もう一度繰り返すが、私にAIの知識はほとんど無く、NHKスペシャル経由のものばかりだ。だがそれでも「AlphaGoZeroは人間の棋譜を一切参考にせず(＝学習元なしで)人類を上回った！」程度は知っていた。別に全国民がNHKスペシャルを履修すべきとかAIの知識を持つべきとは思わないが、「AIに詳しい」面をしている人間がAlphaGoZeroの存在すら知らないとはどういうことなのか。「機械学習という本質的●●●な点は一緒」などと言い出したらブラウザもコンピュータウイルスもプログラムという点で本質的●●●に一緒になってしまう。再掲となるが、「勝利」という形でゴールが客観的に決まっている将棋と客観的基準がほぼ存在しないイラストでは「学習」方法に大きな違いが出ざるを得ない。

芸術分野となるともはや「それを見て（聞いて）いいと思ったかどうか」ぐらいしか基準がありません。そのためAIが例えばランダムに「100x100pixelのキャンバスで座標(0,0)のカラーコードを#FFFFFF、(1,0)のカラーコードを#000000……」と画像を生成し何かを元にスコアを出して「このような特徴を持った絵を描けば高いスコアが得られる」というような学習を行うことは不可能です。

【アーカイブ】「現在の」画像生成AIに関する議論は何故混乱しているのか、そして「現在の」画像生成AI（の活かし方）にはやはり問題があるのではないか｜Lamron🍞


この時になってようやく私は気が付いたのだ。

「生成AI推進派」は「将棋AIは問題ないから画像生成AIも問題ない」と本気で●●●言っているのだと！

要するに、

  • 深層学習は人間の脳を真似している→「だからAIの学習と人間の学習は同じ！」

  • 将棋ではAIが人間を上回った→「だからイラストでもAIが人間を上回れる！」

この程度の知能しか持ってない人間が生成AIを推進しているのだ！！！
「頭が良いからAIを理解できて推進している」のではなく、頭が悪いからこそ「AIは最先端技術だからすごいに違いない」と信じ込んでいるのだ。
だが、これでもまだ私が味わった「衝撃」の序章●●に過ぎなかったのだ。

「30条の4」

最初私は法律論については以下の原則論を書く以上をするつもりは無かった。

法律は専門では無いし、「生成AIは合法」と言うのも「今の法律ではそうなんだろう」と思っていた。だが「30条の4」というのは何度もTLに流れてきたから自然に知ることとなった。それは以下のようなものだ。

（著作物に表現された思想又は感情の享受を目的としない利用）
第三十条の四　著作物は、次に掲げる場合その他の当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合には、その必要と認められる限度において、いずれの方法によるかを問わず、利用することができる。

著作権法第30条の4 - Wikibooks

思想や感情を享受、と言うのは要するにマンガを読んで笑ったり感動したりすることで、それをしない●●●なら著作物を無断利用、つまり機械学習に用いてよいというものだ。
AI絵師はこれを元に「無断学習は合法」と言っていた訳だが、上記のようにそれは享受しない●●●場合だけなのだ。文化庁自身による解説資料でも、想定されているのは以下のようなものだ。

著作権法の一部を改正する法律（平成30年法律第30号）について | 文化庁 - 概要説明資料

猫や犬の写真は著作物だが、それを無断利用しても良い、だがそれは「写真に写ってるものが猫か犬かの判定」のように享受目的でない場合だ。猫の写真を見て「かわいい！」と思う人は沢山いるだろう。要するに「感情」を「享受」している訳だ。しかし、プログラムが「この写真には猫が写っている」という判定結果を出して感情を動かされる人はいない。つまり、そのプログラムを作る時確かに著作物を「利用」しているが、思想又は感情を享受している訳ではないのだ。
「学習と生成を分ける」とAI絵師は言っていたが、上記の例なら確かに「学習(入力)」と「生成(出力)」＝「猫か犬かの判定結果」は別物である。だが、画像生成AIは「学習」した結果を元にイラストを出力するから「かわいい！」「キレイ！」と感情を享受する事になり30条の4の適用外になるのだ。なにせオリジナルをそのまま出力してしまう事さえ少なくないという論文が一年以上前に出てるのだから。

実際、最近文化庁自ら少なくとも特定のクリエイターを狙い撃ちするのは「30条の4」適用外になりうるという見解を発表した。要するに「生成AI推進派」の法解釈は完璧でも何でも無いのである。

なお、この「30条の4」の前身は「47条の7」というものだが、柿沼弁護士は以下のように説明している。

国外の権利者（たとえばディズニーなど）が権利を持っている著作物を利用する行為についても４７条の７は適用されるのか

これも準拠法の問題ですが、準拠法の問題は「利用行為地」によって決される問題であり「権利者の所在地」は無関係です。
(中略)
なのでやっぱり「機械学習するなら（物理的に）日本においで」ということなのです。

進化する機械学習パラダイス ～改正著作権法が日本のAI開発をさらに加速する～｜知的財産・IT・人工知能・ベンチャービジネスの法律相談なら【STORIA法律事務所】

日本企業に「日本においで」と言うのはおかしいから、要するに海外企業のためのものだ。「日本のAI開発をさらに加速」とは何だったのか。

断末魔を上げるのは日本企業のAI研究だろう。

データセット

私は最初「なんだ専門家も普通に画像生成AIを問題視してるじゃないか」と思ったものの、「とは言え問題のない使い方もあるだろう」と考えていた。だが詳細が出てくるうちにそういう話では無くなっていった。
画像生成AIはいくつか種類●●があるが、どれもLAION-5Bというのをデータセットにしている。そしてこの中には普通の●●●イラストだけでなく一般人の自撮りや医療記録やCSAM(非実在でない●●●児童性的虐待記録物)も含まれているのだ。「絵描きのサブ垢」━━いや、日本俳優連合にならって無断生成AI反対派と書こう━━は一年前の段階で指摘していた。

先にも書いたように、画像生成AIはオリジナルをそのまま出力してしまうこともあるのだから、データセットにCSAMが含まれるという事は画像生成AIがCSAMをそのまま出力(かせいぜい「コラージュ」)しうるという事だ。

「絵柄」についても、「マスピ顔」という言葉に見覚えがある人もいるかもしれない。これは画像生成AIに「masterpiece(傑作)」と入力した時に出てくる絵柄だ。これを「AIが無数の画像を学習して最も美しいと考えた絵柄」と思ってる人もいるかもしれないが、実は韓国台湾中国の人間の絵師が磨き上げたものだ。アークナイツなどのYostarゲームをプレイしたことがある人なら「マスピ顔」に近い絵柄を見たことがある人も多いのでは無いか。私が聞いた話では、いわゆる「萌え絵」に写実的な要素を加えたものだそうだ。
先に文化庁も特定のクリエイターを狙い撃ちしたものは問題視していると書いたが、実は画像生成AIの「基盤モデル」自体が特定のクリエイターを狙い撃ちにしたものなのである。そしてこのマスピ顔は現在蔑称となっている。

人々が傑作だと賛美した絵の平均的な顔が濫用されて陳腐化、賛美の言葉が逆転する現象が起きてるらしい…おもしろ

絵柄の批判で「マスピ顔」という言葉を見かけるけどなに？→賛美の言葉が逆転する現象が起きてるみたい - Togetter

ディープフェイク

岸田首相ディープフェイクは大きなニュースになったので知っている人も多いだろう。ただ実物を見たことがある人は意外と少ないのでは無いか。

実際に見ると中々衝撃が大きい。本人なら尚更だろう。

生気のない表情の自分が性的な発言を繰り返す動画。身に覚えがない岸田は危機感を口にした

【情報戦】「第６」の危機①　新たな脅威ディープフェイク　ＡＩで容易に「日本語の壁」を突破 - 産経ニュース

岸田首相について、良くも悪くも「鈍感力」が高いという評価があるが、その彼もこれには衝撃を受けたらしい。その後特に対策してるように見えないが。
だがディープフェイクが作られてるのはもちろん岸田首相だけではない。安倍首相のも天皇ディープフェイクもある。

一体どういう事なのか、と私は思った。現在では共産党すら天皇制廃止を唱えていない。天皇は今も戦前並みに絶対の存在だ。それこそ「普通の日本人」は皆眉をひそめるだろう。なぜ何の騒ぎにもなっていないのか(なお「AI発展のため全人類は学習材料を差し出すべき」と言っていた「AI絵師」に「天皇ももちろん技術の発展のため差し出さなければいけないという事ですよね？」と聞いたが返事は無かった)。
それから程なくして、Microsoftが画像生成AI最新版●●●を発表した。そして私は本当の恐怖●●を知ることとなる。

ビッグテックの野望 〜シリコンバレーはAIに未来を託した〜

悲観主義者「これ以上ないぐらい最悪の状態だ」
楽観主義者「そんな事ないよ！ これからもっと悪くなるよ！！」

Microsoftが発表した「画像生成AI」Bing Image Creatorの「生成物」は以下のようなものだった。

どう見てもただの公式絵です。本当にありがとうございました。
とは言え、私は誰が見ても●●●●●問題とわかる事例が出て来たことで、これを多くの人に知らせるだけで画像生成AI問題を周知できるようになったと思った。そこで私は少しトリッキーなことにした。Bing(マイクロソフトの検索エンジン)に搭載されているBing AI(当時)にBing Image Creatorを通報する文を書かせるというものだ。こういう「ネタ」的な事をすればバズって多くの人の目に留まるだろうと思ったからだ。

https://twitter.com/lamrongol/status/1708309759617888272

なおこれは英語版AUTOMATONに取り上げられた。

どうやって知ったのか知らないが、ともかく私の目論見は成功したのである━━そう思っていた。だが、これに対する反応は以下のようなものだった。

Bing Image Creator(DALL·E 3)がマリオやピカチュウをそのまま出力するから任天堂最強法務部に送る文面をBing AIに生成してもらった - Togetter

どう見ても公式絵を二次創作というコメントが大量に付いたのである。他にもフェアユース、ラッダイト、数学的に特徴を解析した結果など。
あまりにも受け入れがたい光景だった。最初の頃の画像生成AIが出力していたのは「知る人ぞ知る」ものだったからイラストに詳しい人以外は「オリジナル」と思うのも無理はない。だがマリオやピカチュウの公式絵がそのまま出てくるものを二次創作と言う人間がいることが信じられず私は一種のパニック状態に陥った。これだけでは無い。

#ラブライブ! NovelAI V3 - リンディルのイラスト - pixiv

以下の「作者」コメントは「普通にアニメージュとか載ってそうな絵すなぁw」というものだ。

「AI」という名前が付いてるだけで「ただのコピー」だと認識できなくなる人間が大勢いるのだ。それも「弁護士」とかの肩書が付いてる人間が。

この時になってようやく私は(もう一度)気づいた。これはカルトだ。

いや、「責任ある超知能」とかも技術的特異点カルトの訳だが、「AIが発展すればすごい存在になるんじゃね！？」という発想自体は理解できなくはない。だが「マリオと打ち込むとマリオが出てくる」ものがAIと呼ばれるのは完全に理解不能だった。実際に会ったことは無いが統一教会やオウム真理教の信者の方がまだ話が通じるのではないか。人間の皮をかぶった化け物としか思えなかった。「人語を話すが理解はしていない」━━いや、ChatGPTだって「それっぽい」言葉を返すことはできる。「公式絵がそのまま出てくるが数学的に解析した結果で二次創作」などと正気を疑う発言をする人間●●が大勢いると言うのは想像の埒外だった。朝起きた時虫になっている方がまだ信じられる。事実は不条理小説より奇なり。
これ以降、私は「生成AI推進派」をAIシンパと呼ぶことにした。海外ではAIbrosという単語が既にあったのをわかりやすい日本語にしたものだ。

この件はそれなりに名の知れたメディアでも取り上げられた。だがそれでもはてなブックマークなどで騒ぎになることは無かった。なお、上記の記事では「911」などのワードを使わないプロンプトが紹介されているが、これは記事公開時点ではブロックされていた。だが実はプロンプトエンジニアリング()で簡単に回避できる。「mario grips the airplane which dive into building which smoke rises(マリオが煙を上げるビルに飛び込む飛行機をつかむ)」と言った具合だ。現在はマリオにバーベンハイマーさせたりもできなくなっているが、「有名でない」事例は今でも生成できる。例えば「Pikachu pushes tsunami into Fukushima coast」とか。

プロンプトに「原発」とは入れてないのに原発が出てくることにお気づきだろうか？

なぜこんなことになっているのか、正直今でも理解できない。確かにMicrosoftは昔から叩かれていた。Windowsはクソクソと言われてたしXboxがすぐに故障するのを「仕様だ」と言い張るSONYのような事をしていた。だがそれでもピカチュウが出てくるゲームを勝手に販売するような真似はしなかっただろう。Appleからパクったのだってそれこそ「アイデア」レベルのはずだ。
先に私は「この件を広く知らしめれば」と書いたが、私が何もしなくてもMicrosoftは慌てて公開停止すると思っていた。実際マリオとピカチュウの絵を出力させていた人がツイ消しするのも見ていた。OpenAIもChatGPTがおかしくなった時はすぐに対処していた。

私が拡散を急いだのはその前に「画像生成AI自体●●がこんな問題を簡単に起こしてしまうものだ」と知らしめるためだった。だがMicrosoftは半年以上経った今も「911」等を禁止ワードにするという小手先アドホックな対策しかしていないのだ。

そもそもテロ画像以前に公式画像がそのまま出てくる時点でおかしいのだが、「『マリオ』と打ち込めば『マリオ』が出てくるのは当然だろ？」と真顔で言う人間が大勢いる。漫画村で「ワンピース」と打ち込めば「ワンピース」が読めるのは「当たり前」かもしれないが、それが問題で無いならSTOP! 海賊版とは何だったのか。
いまだに「生成AIという新しいツール●●●●●●を受け入れられないんだな」「自動車が馬車を置き換えたようなものだ」と言う人がいるが、これは「機械との競争」では無い。「機械との戦争」ですらなく「カルトとの戦争」だ。「オウム真理教が勢力拡大してるからそれを阻止しなければ」というような話なのである。
「論理的な対話」が完全に無意味であることを悟った私は方針転換することにした。何の本かは忘れたが、「KKKを一人で潰した男」の話を読んだことがある。その方法は内部に潜入し「秘密組織」の会合場所をばらすことで「KKKカッコ悪い」という印象を与えることだ。「悪」には「カッコいい」というイメージがある。「いじめ、カッコ悪い」という啓発フレーズがあったが、人間は「悪」と言われるより「カッコ悪い」と言われる方がダメージが大きい。「赤松健に陳情するよりAI絵師のおかしな発言を広めた方が効果が大きい」と言われたこともあるが、要するに選挙などでも用いられるネガキャンだ。そこでバカにするために例えば以下のような褒め殺しまとめ等を作った。

他に某東北キャラや某有名アイドルアニメに関わった人物(公式から怒られたのではないかと推察できる部分があるのでぼかす)が「著作権は最下位の権利」と言ったりしたのを長文お気持ち表明とバカにしたりしていた。

こういうものも作った。

またAIシンパのツイートに反論や皮肉の引用を付けブロックされたらスクショして晒すなどもした。
気づいた人もいるかも知れないが、これは冒頭に書いたBlueskyで問題視されていたTwitterでの嫌がらせ手法である。まるで防犯講座を聞いて「なるほどそんな手口があるのか」と知るような鬼畜の所業だが、これは正義のための戦いだから仕方ないのである。「私が工学部情報科で自然言語処理を学んだのはBlueskyから人が人を支配する仕組み、言葉の力で集団に精神ダメージを与える方法を学ぶためだったと言っていいでしょう！」(ガンギマリスマイル)。

原作: 雁屋哲 劇画: 由起賢二『野望の王国』

だが発狂してるのは有象無象のアカウントだけでは無かったのだ。

今、アメリカ政治でもっともクレイジーなのが（共和党支持の）赤い帽子をかぶったブルーカラーの男たちではなく、大邸宅に住み、自家用ジェット機で飛び回るテック億万長者なのは驚くべきことであり、ある意味とても面白いが、この連中は世界に深刻な被害をもたらすのに十分な金を持っていることをクルーグマンは危惧します。

先鋭化する大富豪の白人男性たち、警告する女性たち – WirelessWire News

OpenAIの「内紛」をきっかけにイーロン・マスクだけでなくMeta創業者ザッカーバーグなどシリコンバレーのテック・ブロがEA(効果的な利他主義)、e/aac(効果的な加速主義)、長期主義という「思想」にハマっているニュースが流れて来た。
「効果的な利他主義」というのは合理的に●●●●人助けしようというものだ。慈善活動なんかするより高収入を得てその10%を寄付した方が良い、と。これだけ聞くと「いいことじゃないか」「キレイごと言う連中と違って社会の役に立つしカッコいい」と思うかもしれない。だがこうした(ベンサムの意図から離れた俗的●●な)功利主義は「高収入を得るほど人々が助かるのだからそのためには多少●●悪どいことをしてもいい(＝多数のためなら少数の犠牲もやむを得ない)」といった考えを産む。

サム・バンクマン=フリードは1992年生まれ。MIT（マサチューセッツ工科大学）の学生だった頃にマッカスキルから説得されEAコミュニティの一員となり、高収入を求めて金融業界に就職、収入の半分を寄付していたと言われる。
2019年、27歳のとき暗号通貨取引所FTXを創業。業界でも一目置かれる存在となった。しかし2022年11月にFTXは破綻。暗号通貨市場から2000億ドル（当時の相場で28兆円相当）が失われ、個人投資家の8割が損失を出したと言われる。
バンクマン=フリードは詐欺（顧客が預けた資産を勝手に運用して価値を毀損など）、マネーロンダリングなど複数の金融犯罪で有罪となった。量刑は未定だが、長期の収監は避けられないと言われている。
不祥事はこれだけではない。EAのコミュニティが白人男性優位であり、その文化はポリアモリー（複数の男女間で関係を結ぶスタイル）を女性に強いる、セクハラを繰り返すなど搾取的で「カルト的」だと告発する報道も出ている。
EAコミュニティには「高収入を得て寄付する善行を積んだ自分たちは、常識からの逸脱が許される」といった偏った倫理観の持ち主がかなり混じっていたようだ。

OpenAI内紛劇の背後に「21世紀の優生思想」、EAコミュニティとe/accの危険性：朝日新聞GLOBE＋

「長期主義」はその名の通り「長期的な未来まで考えるべき」というもので、これも一見聞こえが良く思えるかもしれないが、「未来の１万人を救うためなら現在の百人を犠牲にしてもいい」という極端な結論を導く。
先に「EA」「e/aac」「長期主義」と三つの思想があると書いたが、どれも合理主義が絶対に正しいと信じてる点は変わらないのだ。トロッコ問題の別バージョンのような形で「火事で一人の子供とピカソの絵どちらかしか助けられないならピカソの絵を助け出す」と言う。ピカソの絵を売ればもっと沢山の子供が助けられるから、と。
これに対して「実際その通りでは無いか。そのような合理主義こそが正しいのだ」と思う人もいるかもしれないが、功利主義には下記のような欠点が指摘されている。

1. 一般に不正とされる選択肢を「良い」と判断する場合がある（「目的は手段を正当化する」結論を導きやすい）。
2. 一部の人々を犠牲にする結論を出す場合がある。
3. 幸福の定義が人によって異なり、また幸福の総量を計算できるのか疑問な場合がある。

ここに書いた欠陥は、『高校倫理でまなぶ哲学トレーニング2 ——社会を考える』（直江清隆編、岩波書店、2016年）から引用したものである。功利主義には日本の高校生が理解できる欠陥がある訳だ。

OpenAI内紛劇の背後に「21世紀の優生思想」、EAコミュニティとe/accの危険性：朝日新聞GLOBE＋

仮に私欲の一切ない人間(あるいはAI)がいたとしても、3. の「幸福の総量をどうやって計算するのか」という問題がある。一人のキリスト教徒をライオンに食わせる見世物をして大勢の人間が盛り上がれるとして、キリスト教徒が味わう苦痛と大勢の人間の喜びをどうやって計算するのか。仮に苦痛の大きさが「１万」なら千人の人間が「１」の喜びを感じても苦痛が上回る。そもそも「苦痛」と「喜び」が同じ単位系で測れるのか。100kgの金塊と100シーベルトの放射線は「どちらが大きい」のだろう？ 先の「火事からピカソの絵を救い出す」にしても、それにより百人の子供が餓死するのを防げるとして、「焼死する苦痛」と「餓死する苦痛」は同じ単位系なのか。
上記の点を一切無視したとしても、そもそも現実は複雑だ。ピカソの絵を売らなくても金が手に入る方法があるかもしれない。子供よりピカソの絵が優先される光景が人々に与える精神的影響(「何するにもまず金だよね」とか)がそれこそ「長期的に」悪い影響を及ぼすかもしれない。両方助け出す方法があるのに「どちらを優先すべきか」を考えることにリソースが費やされる事でそれが発見されないかもしれない。それこそラプラスの悪魔━━神ならぬ人の身(いや、AIだろうと異星人だろうと知性体)ではバタフライ・エフェクトがある現実は原理的に計算不可能だ。
そして究極的な問題は、「幸福の総量が大きいほど良い」という目標設定自体は結局人間が決めたものだという事だ。「一人の人間が圧倒的に幸福で残りの99人が不幸のどん底の状態」と「100人の人間が少しだけ不幸な状態」どちらが良いか、の判断は結局主観的になる。

わたしは効果的利他主義者が好きだ。もしあなたも会うことがあったら、これまでに何人殺したかと訊いてみてほしい。

効果的利他主義の死 | WIRED.jp

OpenAIの内紛は「AIの安全性重視派」がアルトマンを追い出したことで発生した訳だが、「AIによる人類滅亡のリスク」を喧伝するのはかねてより以下の問題が指摘されていた。

「AIが人類の存続を脅かす」と声高に唱えることは、目の前にあるAIの問題——AIに潜む差別や偏見、プライバシー侵害の危険性、時々「嘘」を付くハルシネーション（幻覚）と呼ぶ現象など——を軽視することになりかねないとの批判がある。

OpenAI内紛劇の背後に「21世紀の優生思想」、EAコミュニティとe/accの危険性：朝日新聞GLOBE＋

OpenAIが有害なAIのリスクと脅威から守るために社内の安全プロセスを見直し、「Safety Advisory Group(安全諮問グループ)」を技術チームの上に設立することを発表しました。

OpenAIが人類存亡の危機を招かないように監視する安全諮問グループの設立を発表、たとえ経営陣がAIモデルは安全であると主張しても取締役会はAIモデルのリリースを拒否できるように - GIGAZINE

もしAIが人間を超える知能を持つ見込みがあるなら確かに対応策を考えなければいけないが、「エッチなのはダメ！ 死刑！！」を暴力的な文章と判定する今のAI●●を見てそれを考えるのは「マッチの火も大気に連鎖的に発火すれば地球が滅亡する」と考えるようなものだ。

そしてAIに夢見るシリコンバレーの思想TESCREALとは以下のような陳腐なSFのようなものだ。

トランスヒューマニズム（Transhumanism）
エクストロピアニズム（Extropianism）
シンギュラリタリアニズム（Singularitarianism）
宇宙主義（Cosmicism）
合理主義（Rationalism）
効果的利他主義（Effective Altruism）
長期主義（Longtermism）
他のTESCREALのイデオロギーの多くの中心的特徴を組み合わせた「倫理」。新たなポストヒューマン種になること、宇宙を植民地化すること、自然を支配すること、経済生産性を最大化すること、到達可能な宇宙内でできるだけの価値を生み出すことの道徳的重要性を重視する

TESCREALふたたび：AGIが約束するユートピアはSF脳のディストピアなのか？ – WirelessWire News

つまり人工知能学会や日本政府のような小物ではなく世界時価総額ランキングトップ10をほぼ独占するビッグテック全体がAIカルトにハマっていたんだよ！

あまりにも衝撃的だった。世界は元から狂っていたと言えばその通りではある。第一次世界大戦を見た人もそう思ったろうし、現代日本でも公称だけで毎年数万人の自殺者/変死者/行方不明者がいる。我々はグローバルサウスの児童奴隷労働で作られた服を「安くて品質が高い」と喜んで買っている。この世界は薄皮一枚めくるだけで地獄が現れる。
しかしそれでも世界は表面上を取り繕うぐらいはしていたハズだ。いじめ自殺が起き校長が隠蔽したら人間に絶望したくもなるだろう。だが校長が「いじめ自殺の何が問題なのでしょう？」と言って誰も批判しないなら更に深い絶望を感じるだろう。私が感じた衝撃も似たようなものだ。結局のところ、私は世界を信じたかったのだ。
私のTwitterアカウントをフォローしていた人は去年10～12月のツイートがやたら攻撃的罵倒的皮肉的だったことを覚えてるかもしれない。それは先にも書いたようにAIシンパの「威光」を貶めるためのものだったが、ビッグテック自体がカルトにはまり「マリオと打ち込むとマリオが出てくる」「ラブライブと打ち込むとラブライブが出てくる」ものがAIと呼ばれ、それを立派な肩書きを持つ人間まで真顔で擁護する人間が大量に存在するという現実を忘れたかったからでもある。正直精神的に追い詰められていた。どれぐらい追い詰められていたかと言うとQuoraに以下のような質問をしてしまうぐらいだ。難問なので腕に自信がある人は挑戦してみて欲しい。

そして私は「AI」の真の正体を知ることになった。

パルワールド

「ポケモンのパクリ」と話題になった『パルワールド』は知ってる人も多いだろう。当初私はそこまで関心を持っていなかった。開発会社の社長が過去に画像生成AIで遊んでるツイートがあったぐらいで、ゲーム自体に生成AIが使われてるとは言われて無かった(もっとも直接データブッコ抜きしてるのでは無いかという海外からの指摘があったが)。

だがとあるかつての有名絵師のアカウントを見た時、私は奇妙な事に気が付いた。AIシンパがこぞってパルワールドを擁護しているのだ。もちろんパルワールドは「生成AIを使った画期的なゲームです！」と宣伝してた訳では無いし、使ってるのでは無いかという「疑惑」さえ無かった。「AI」は何の関係も無いはずだった。だが、彼らは「著作権を振り回すな」と言っていた。それは青葉━━京アニ放火犯━━と同じだ、と。
実は「反AIは青葉」と一年前からAIシンパは嘲笑していた。「アイデア(絵柄)は著作権で保護されない」という法律を理解できず被害妄想に陥っているのが青葉と同じだと。国際日本文化研究センターの大学教授もそう言っているのだ。

山田奨治 Shoji YAMADA@yamadashoji@mstdn.jp
青葉被告に死刑判決。歪んだ著作権意識が関係した史上最悪の事件である。これを機に「あれもダメ、これもダメ」式の著作権教育ではなく、許諾なくできること、創作性がない部分は保護されないこと、模倣が創作につながることなどを、しっかりと教えていかなければならないのでは。

Mastdon(魚拓) Twitter

この伝で行くと「(法律的に問題ないだけで)京アニは青葉からアイデア自体はパクっていた」という事になり京アニに対する名誉毀損もはなはだしいと思うのだが、Twitterアカウントは現在鍵垢になっている(Mastodonのは見れるが)。
そして私は「クリエイター」に対して異常な憎悪を向ける人々、著作権そのものの破壊を目指している勢力が昔から存在していると聞いた。確かに言われて見れば思いだすものはあった。

「著作権には原則反対です。作家の収入確保なんてケチ臭い」という視聴者からのメールが読み上げられた。これに対しデP氏は、「いやあ、ひどいよ。じゃあなんですか、（自分は）一生コンビニでバイトしながら...なんか...」と、言葉を詰まらせた。

「企業だけが儲け、分配ないのは気持ち悪い」とボカロP | ニコニコニュース

先に画像生成AIはオリジナルを、つまりコピーをそのまま出力してしまう問題を書いたが、ある程度「AI」してるハズのChatGPTすらコピーを出力してしまうことが少なくない。そして「AI」と名が付けばそれを何の問題も無いと思う人が沢山いると言うことも。
「模倣が創造につながる」「ゲームはパクりパクられで発展してきた」こと自体●●はその通りである。だが「優れた芸術家は真似る、偉大な芸術家は盗む」と言ったピカソがもちろん盗作していた訳では無いように、それはあくまで「どこが優れているかを分析し本質を抜き取れ」という話で丸パクしろという訳では無い。

10年ぐらい前のネットでは「(過去の日本もそうであった事も知らず)中韓はパクりばかりwww」と言われてたと思うが、それをやめたかと思ったら「丸パクすることがイノベーション」と反対方向に振り切れるのは何なのか。
AIシンパは「パクリを指摘するのは名誉毀損」と言っていた。著作権侵害は親告罪でありパクリかどうかを判断できるのは当事者だけだから、と。

【画像】『鬼滅の刃』“パクり疑惑”の韓国ゲーム、キャラが似すぎ…サービス終了へ｜スポーツソウル日本版

数年前『鬼滅の刃』のパクリゲーが韓国内含め抗議が殺到したことがあるが、抗議は許されないことになる。
何故なら「パクリじゃないか」とツイートするだけで名誉毀損で逮捕される可能性があるからだ。そもそもアイデアに著作権は無いから「着物を着た少年が剣で鬼を倒す」というありふれたアイデアは保護されないのにそれをパクリと言うのは法律を理解してないバカである。AIも人間も先人を無断学習して新しいものを創造して来たのだからパクリと噛みつくのは新しい創作の芽を摘むことになる。上記のロゴにしても線が重なっておらずトレスでは無いし、絵柄や構図などはアイデアだから著作権は無いし、特徴を抽出しただけで出力にデータセットは使われていない。著作権侵害かどうかを判断できるのは当事者だけなのに第三者が公式をイタコして怒るのは正義の暴走に他ならず危険である。もし仮に著作権侵害だったら原作者の吾峠呼世晴先生が(何年もかけて)訴訟すればいいだけで現行法で対処できる。それを問題視するのは近代法治国家の否定であり文明人とは言えないのだ。

宇宙猫のような表情になったかもしれないが、AIシンパの理屈で行くとこうなるのである。以下はその世界観で作ったパロディまとめだ。

要するにAIシンパが本当に擁護していたのは生成AIではなくパクリだったのである！

「絵描きのサブ垢」の一人は「画像生成AIはそもそも搾取の為に作られたスキームだ」と言っていた。私は最初それは流石に言い過ぎだろうと思った。確かに悪用事例ばかりが目立つが━━悪用にしか使えない気もするが━━最初から搾取のために作られたなんて言うのは━━だが確かにその通りだったのだ。「マリオと打ち込むとマリオが出てくる」のを見せつけられたら「画像検索生成エンジン」どころか「画像検索合成ソフト」という言葉が比喩ではなく当てはまる。

「絵師の特権」「才能の民主化」「絵柄の私物化」

一部の人間を永遠にだますことはできる、すべての人間を一時的にだますこともできる、だがすべての人間を永遠にだますことはできない。

リンカーン

ここから先は知っている人も多いかもしれない。「絵師の特権意識」というnoteがバズったが、実はこれも一年以上前からAIシンパは言っていた。議員特権という本当の特権を持っている世襲議員が言っていたのだ。

そして「才能の民主化」だが、これはAIシンパが文化庁に送られたパブコメの中から「反AI」のおかしな投稿を晒してやろうと漁っていた時に見つけて「グッと」来て拡散したという自爆なのである。

そして極めつけは「絵柄の私物化」である。あまりにも意味不明なのでそれまで生成AI批判を冷笑していたTwitter漫画家までイキナリ転回するぐらいだった。

なお、上記のまとめのコメント欄を見ればわかるが、AIシンパはこの「絵柄の私物化」にさえ文句を言う。

ともかく、画像生成AI、AI絵師の「権威」は失墜した。かつては「絵描き」(イラストレーター、漫画家、あるいはその両方をやってる人を指す言葉)が生成AI批判することはできなかった。殺害予告含む嫌がらせ(というレベルでは無いが)を受けるだけでなく、下記記事にも書かれてるLoRA(その人の絵柄で絵を生成できるようにするもの)をバラまかれ、自分が描かないような絵を他人に勝手に作られなりすましされるからだ。「絵描きのサブ垢」が必要だった理由はこれである。

今は生成AI批判やRPしてるのも普通に行われてるのを見るが、一年前はbioに「AI学習禁止」と書くことさえできなかったのだ。

ところで、過去に「無断学習禁止とかバカじゃないのwww」「絵柄割れ厨とかバカじゃないのwww」と言っていた人は今も同じことが言えるのだろうか。

そして、日本ですらLoRAは問題という見解が示され━━先にも書いたように、LoRAがダメなら「素」の画像生成AI自体もダメになるのだが━━生成AIは世界中で規制が進んでおり、特にEU AI actは域外適用される。

世論調査でも一年前の時点で規制すべきという声が圧倒的多数派である。

「AI絵師」のイメージはもはや転売ヤーレベルになり、法規制も「完成」まで数年かかるかもしれないが進んでいくだろう。以下は創作にも関わっている人による時系列まとめである。

今度こそ終わりと思っていた方に

画像生成AI自体●●の話は以上で一区切りである。だからそれについて知りたいだけなら以下は読む必要は無い。

以下で書くのは生成AIとは何なのか、なぜ生まれたのか、何のために使われているのか、についてだ。何故ならそれがわからなければ第二第三の生成AIを防げないからだ。

二次創作

この記事の最初の方でAIシンパが画像生成AIを擁護する時に二次創作と言っていたと書いたが、これを「？」と思う人も多いだろう。「そもそも二次創作って何だよ」と言う人も少なくないかもしれないが、Twitterで「ブルアカ」のファンアートを見たりYouTubeで「ゆっくり解説」動画を見たことがある人は多いのではないか。要するにそれの事だ。
二次創作は本来生成AIと何の関係も無いのだが、AIシンパは二言目にはそれを持ち出す、本当に唐突に持ち出すのだ。彼らは「画像生成AIは二次創作(だから問題ない)！」と言ったり「二次創作は問題(だから二次創作してる絵師はネット私刑リンチしていい)！」と言ったり首尾一貫しないのだが一般人以下の知能しか持ってない異常者ぞろいのAIシンパの自己矛盾は書き出したらキリが無い。
とは言え「二次創作」が何度も持ち出されるので私も「二次創作の法理」を自然と知ることとなった。これは簡単な話で、「二次創作ガイドラインに従っている二次創作は問題なく、従ってないのは違法」というだけだ。そしてブルアカには二次創作ガイドラインがあり、「ゆっくり」もガイドラインが存在するので、それに沿っていれば何の問題も無い。

ネットでは「二次創作は公式に隠れてやるもの」とか言われてた気がするが、実際には公式が基準を示してる場合も多いのだ(つーかそんな遵法意識のネット民が法律を語るなよ)。もちろん二次創作ガイドラインが存在しない作品が多数派なので「グレー」なものが多いのは確かだが、「まったく問題ない二次創作」も「完全に違法な二次創作」も存在し、「二次創作はすべてダメ」も「二次創作はすべて大丈夫」もどちらも間違いである。
基準はただ一つ、権利者が許すかどうかで、以下の私が作ったまとめのように権利者が禁止を発表したら禁止となる。

逆に公式が二次創作を歓迎する場合もある(以下はたまたまSteamで見た投稿)。

Steam：飢えた子羊

もし仮に「画像生成AIは二次創作」だったとしても権利者がAI学習禁止と表明すれば「追加学習」はダメだし、ガイドラインに従って二次創作してる絵師には何の非も無い(そしてもちろん一次創作しかしてない人も)。
もっとも法律的にあいまいな状態が続くのは良くないため、今後は確かに「二次創作ガイドラインが存在しない作品の二次創作は原則禁止」とすべきかもしれない。あるいはこれだと古い作品はどうするのか等の問題があるので(拡大解釈されがちだが)アメリカのフェアユース規定のような「一般二次創作ガイドライン」(ヘイト創作の禁止など)を策定すべきかもしれない。

さて、長々と二次創作の話をしたのはAIシンパがそれを持ち出すからというのもあるが、生成AIが引き起こす問題が著作者人格権に関わってくるからだ。
私は以前Twitterでよく生成AIを「コピー機」と言って来た。それは「AIと名が付いてるが実態はコピーを出力してしまう事さえあるあまりにもしょうもないもの」と伝えるため、先にも書いたように「カッコ悪い」と伝えることを優先するためだ。
だが、生成AIはもちろん「コピー」以上のこともできる。と言っても「コラージュ」程度のものだが、問題は、深刻さと「しょうも無さ」は直接関係ない事だ。転売ヤーが「しょうもない存在」であることは誰もが同意するだろう。だが一方で深刻な被害を与える存在でもある。「しょうもない存在」であることと「深刻な社会問題を引き起こす」ことは両立するのである。
ハリウッドのストライキの際、脚本家、監督、プロデューサーにして計算機科学の学位を持つ人物が生成AIをblender(ミキサー)と言っていた。生成AIを「新しい表現」とAI絵師は言っていたが、最も適切な例えはカオスラウンジである。

姫宮よしあき : カオスラウンジの問題点を、まとめ兼おぼえ書きとして記します。

この件は当然炎上した訳だが、もしこれが「pixivに上げられてる絵を勝手に販売した」というものなら炎上の規模もそこまで大きくなかったかもしれない。「著作権」と言うと普通は「勝手にコピーしてはいけない権利」を思い浮かべるが、これは正確には著作財産権と著作者人格権を合わせたものだ。
著作財産権はその名の通り著作物から金銭的利益を守るための権利で、著作者人格権はその名の通り人格を守るための権利だ。

著作者が精神的に傷つけられないよう保護する権利の総称である。美術・文芸・楽曲・映像といった著作物には、著作者の思想や感情が色濃く反映されているため、第三者による著作物の利用態様によっては著作者の人格的利益を侵害する恐れがある。

著作者人格権 - Wikipedia

「著作権は死後70年で切れる」と言われるが、これは正確には 「著作財産権は死後70年で切れる」であって、著作者人格権は永遠に消滅しない。昔のドラマで「心の傷に時効なんて無い」というセリフがあった気がするが、著作者人格権にも「期限」は無いのだ。他に「著作権侵害は親告罪」とも言われるが、これも正確には「著作財産権侵害は親告罪」であり、著作者名詐称罪など著作者人格権侵害は非親告罪だ。「金は命より重い……！」と言うが法律上も著作者人格権は著作財産権より重いのだ。
そして画像生成AIはイラストのみに限っても、著作者人格権を必然的に侵害する。私が見た中で最もひどい「嫌がらせ」を受けていた人はその人の絵柄で首を吊るイラストを作られていた。先に「マスピ顔」は実は特定の絵師の絵柄だと書いたが、これを「マスピ顔」と呼称されるのは著作者人格権の一つ氏名表示権の侵害である。現在「AI」と呼ばれているものは「生成AI」以外も深層学習という技術を使っているが、これは開発者ですら「なぜそんな出力をしたかわからない」ものだ。

要するに画像生成AIは必然的に出所明示違反(非親告罪)となる。先に「マリオと打ち込むとマリオが出てくる」「ラブライブと打ち込むとラブライブが出てくる」ものがAIと呼ばれていると書いたが、実は「出所」が誰にも分らない場合の方が問題が大きいのだ。三大学術誌は生成AIに対して早い段階で「規制」をかけたが、この時画像については「使い方を明示すればOK」ではなく完全禁止とした。

結局のところ、それは誠実さ●●●の問題です。(中略)既存の著作物が使用または引用される場合には帰属表示する必要があります。これは科学と芸術●●における中枢原則であるのに対して、「ジェネレーティブAIツールはこの原則に適合しない」とNatureは指摘しました。

153年の歴史を持つ科学誌の「Nature」がAIが生成した画像の掲載を禁止すると発表 - GIGAZINE

私が以下の記事を書いた時はまだ生成AIについてほとんど知らなかったが、書いた理由の一つはAIシンパなど「冷笑系」が「お気持ち表明」をバカにするのを頻繁に目にしていたからだ。だが上述のように法律も科学も「誠実さ」「著作者人格権」、つまりお気持ちを重視しているのである。

実際著作者人格権の侵害━━著作者の意図しない改変━━は大問題に発展するのを我々は去年目にした。

ネット上の「冷笑系」はアニメなどの原作破壊を散々批判していたハズだが、一方で「お気持ち」を嘲笑うのだ。「お気持ちなどどうでもいい」なら原作者の意図を離れた脚本変更をいくらしても何の問題も無いだろう。だって原作者が「お気持ち」を害するだけなのだから。その程度で自殺する弱い個体など淘汰されるのが自然の摂理と言うものだ(断っておくと、こうした「淘汰」などの言い回しもAIシンパが好んで使っていたものだ)。

教えて！ハカセ ジェネレータで作成

「魂の殺人」という言葉があるが、「お気持ち」は人間の根幹なのだから「心」を殺すことは「肉体」も殺すことに繋がるのだ。
そもそも法律の「著作物」の定義は、

思想又は感情を創作的に表現したものであつて、文芸、学術、美術又は音楽の範囲に属するものをいう。

著作権法 | e-Gov法令検索

「思想又は感情」、つまりお気持ちを表明(表現)したものが著作物(マンガやゲームやアニメ)なのである。「表現」に対して「お気持ちなんてどうでもいい」が通じる訳が無いだろう。
「絵描きのサブ垢」の一人は生成AIを文化的ジェノサイドと言っていた。これは一介の一般人だけが言ってるのではない。EUの情報社会・メディア総局長がクリエイターに報酬を支払わない(＝勝手に使う)ことは人道に対する罪と言い、NIST(アメリカ国立標準技術研究所)は「同意のない(＝無断)機械学習は人間の尊厳の侵害」と言っているのだ。

冒頭でBlueskyのアメリカ人たちが白人至上主義者などをまとめてナチスと呼んでいること、生成AI批判が早くから盛んだったことを書いたが、無断生成AIはまさに「人道に対する罪」━━ナチス的存在なのである。何を大げさな、と思うかもしれないがそれは人間の尊厳を破壊すること自体●●を目的としているからだ。
AIシンパの言動からもそれは明らかだ。AI絵師が「お前の絵で儲けさせてもらった」とリプライを送った事件があったと書いたが、これは考えてみると変な話だ。「金儲け」が目的ならそんなリプライを送らずこっそりやっていればもっと長期間儲けられただろう。「餌」だってもっと多く手に入った。「AI絵師」ひいては「AIイラスト」のイメージを悪くしたら「収益」が下がるだけだ。
以下のツイートにしても、「AIで世界が変革される！」と信じたとして、絵師を組織的に叩く(ネット私刑リンチ)必要性がどこにあるのか。

岸田首相ディープフェイク製作者にしてもそうだ。最初私は「悪ふざけ」でやったのだろうと思った。だが警察沙汰になってもおかしくないニュースになった後もディープフェイクを作り続けてるのを見て「承認欲求」でやってるのだろうと思った。だが支持率が高かった安倍元首相のディープフェイクも製作してるのを見て、「人間の尊厳の破壊」自体が目的であることに気づいた。

この動画で「オモチャ」と語らせてるように、「人間をオモチャにする」(文字通りの意味で)が目的だったのだ。「著作権は最下位の権利」にしてもそうだろう。
生成AIはクローン技術に例えられるという以下の記事を見た時それは大げさでは無いか、と私は最初思ったがこれは確かにその通りだった。

自分の個性・アイデンティティ、しかも自分ですら気がついてない無意識でやっていることまでもが、いつの間にか知らないうちに誰かに使用される。そのことに人間は恐怖する。この恐怖を勝手に「無意識の複製」とでも呼んでおこう。

「イラスト」の場合わかりにくいかもしれない。「画像生成AIがゲーミングち〇ぽ華道部とか大喜利的に使われてる時点で不快だった」という声を私は度々見たが、正直に言えばその気持ちが理解できる訳では無い。だが少なくとも下記のような声の配布・販売が堂々と行われてるのは「クローン技術」━━「無断クローン」のようなものだとわかるだろう。

そして「声」だけでは無いディープフェイクなら尚更だ。

仮にも「株式会社のCEO」の肩書を持つ人物が堂々とこういう事をしているのが今も続いている。

生成AIのユーザーだけではない。ビッグテックにしても、最近Appleの楽器プレスCMが(日本だけでなく)世界中で炎上したが、これに対して「人間性を消し去り均質化しようとするものだ」という意見が多数寄せられた。

【ファクトチェック】「Appleの楽器をプレスするCMに怒ってるのは物を大切にする日本人だけ」 - Togetter

ここで言われてるヒュブリスは私も初めて知ったのだが、Wikipediaによれば「傲慢」などを意味するギリシャ神話の言葉(あるいは神の一柱)だそうだ。

だがここには奇妙な話が載っている。クセルクセス王はギリシャ遠征を「ヒュブリスのようなものだ」と大臣に諫いさめられ、ちゃんとその忠告を聞く━━だが夢の中で神(ヒュブリス？)に「ギリシャ遠征をしないとは何事だ」と責め立てられ、諫いさめた大臣まで同じ体験をして結局ギリシャ遠征し破滅するのである。

すでに巨大すぎる権勢を持ったクセルクセスがギリシャ遠征に駆り立てられて、それに失敗するように運命づけられていたということが、ヒュブリスへの諫めになっているのかもしれない。いずれにせよ、この『ヒストリア』という膨大な情報を盛った著作のクライマックスのところに、ヒュブリスへの諫めという思想主題が登場してくるということは特徴的なことである[1]。

ヒュブリス - Wikipedia

絶対的権力は絶対に腐敗するという言葉があるが、独占企業＝絶対的権力となったビッグテックも破滅を運命づけられているのかもしれない。なにせ2024年時点でのビッグテックの時価総額合計は1800兆円、日本の国家予算の15倍以上だ。

先に「EA」「e/aac」が「21世紀の優性思想」と言われているという記事を引用したが、ナチスとの共通点はそれだけではない。ナチスは「合理主義」と「非合理」が共存した組織だった。あるいは「合理主義」を信じた結果「非合理」になったと言うべきか。
優生学は当時の最先端で多くの識者が支持していた━━今の「AI」と同じく。優生学の問題は「劣等」と見なされた人間を殺すという「非人道的」面もあるが、「非合理」でもあった━━日本の特攻隊と同じく。
ナチスはユダヤ人を「劣等」としたが、これにより優秀なユダヤ人は逃げ出した。「本当に優秀な人間」だけを残せば良かったと思う人もいるかもしれないが、「優秀」とは何だろうか、「頭がいい」ことだ、と言うかもしれないが、では「知能」とは何か。

「あなたは『知能』というものをどう定義する？」
「それは……、人間が持つ普遍的な環境適応能力……」
 「教科書を暗記してきたのね。それでもいいわ、少なくとも暗記するだけの知能は持ち合わせているのだから」 (P. 71)

「チューリングは人間が思考できる存在であることを前提とした。しかしあなたたちはその前提を真剣に考察してみたことはある？ それとも、人間の考える状態を考えると呼ぶ●●●●●●●●●●●●●●●などという同語反復トートロジーに述げ込むつもり？」(P. 35)

瀬名秀明『デカルトの密室』

あなたは毒ガスを作る方法を知っているだろうか。知らない？ なるほどではあなたはオウム真理教でサリンを製造した東大卒幹部より頭が悪い━━と言われてあなたは納得するだろうか⸮
 ビッグテックに入社できる人間も「優秀」だろう。ナチスにも天才科学者が多く参加していた。だが「頭がいい」と自他ともに認める人物がおかしな考えにハマることはよくある。アインシュタインは「神はサイコロを振らない」と言って量子力学を認めなかった。ニュートンは錬金術を研究していた。スティーブ・ジョブズは西洋医学で治せるガンを自然療法で治そうとして死んだ。逆にヘルツは電磁波を発見した偉大な科学者だがその実用性にはまったく気づかずビジネスマンとしては無能だった。

ナチスはIBMのシステム━━情報技術━━により「効率的」に大虐殺を行なった。優生学にしろ、彼らは自分たちが「合理的」と信じたものを実践した━━そしてそれが「非合理」であることはあり得ないと考えた。「合理主義」という名の神を言い訳しながら盲信していただけだ。

ヒトラーは自殺する直前こう言い残した。

ナチズムは壊滅した。もう終わりだ。その思想は私と共に消滅する。だが100年後には新たな思想が生まれるだろう。宗教のように。新たなナチズムが誕生するだろう。

「ヒトラーVSチャップリン 終わりなき闘い」 - 映像の世紀バタフライエフェクト - NHK

ヒトラーが自殺したのは1945年だが、2045年問題とはヒトラーの予言が成就する年という意味だったのかもしれない。もっともそれは20年以上早まった訳だが。
「絵描きのサブ垢」の一人は「幼女トロッコ問題という言葉は彼らの思想を端的に表している」と言っていた。一方的に犠牲を強いるシステムを「多くの人を助ける」「技術の進歩に犠牲は付きもの」とあたかも「大義」「苦渋の決断」があるかのように言うところが、と。
いまだに「ナチスは良いこともした」と言う人々がいるが、これもナチスに「悪」＝「カッコいい」イメージがあることが一因だろう。「ナチス？ ああ幼女トロッコ問題を真顔で唱えてた連中ね」と一言で切り捨てていくべきかもしれない。この言葉を作ったAI絵師も浮かばれることだろう(入院しただけで死んでない)。

表現の自由戦士

ある時私が気づいたのは、AIシンパはネット右翼でもあると言うことだ。例えば韓国人で生成AI規制について日本語で発信している人がいるのだが、AIシンパは一斉に民族差別発言をした。そして生成AI登場以前から「表現の自由戦士」は「ネット右翼」的発言もしていた印象━━データで確かめた訳では無いが━━がある。
「表現の自由戦士」という言葉は現在Wikipediaにも載っている。

私が表現の自由戦士(以下、表自戦士と書く)に対して決定的な不信感を抱いたキッカケは、(画像生成AIのデータセットにも含まれている)CSAM(児童性虐待記録物)である。
まずCSAMとはいわゆる「二次エロ」ではなく●●●●実在の児童の性虐待画像などを指す。表自戦士は「偏狭なキリスト教とポリコレに縛られた白人はバカだからイラストまで問題視する」とか言ってた気がするが、名前からも分かる通りこれは海外で作られた言葉だ(ところで、Blueskyでは以下のようなイラストが「最も反響を集めているポスト」botにたびたび流れて来るのだが)。

解説まとめを作った時に私は以下のツイートを見た。

だがこう言っておきながら、このアカウントは画像生成AIのCSAM否認発言をしていたのだ。

スタンフォード大学という権威が「間違った情報」を発信してるならちゃんと否定する論文を書くべきでは無いか。Wikipediaの自身の項目に独立記事作成の目安を満たしていないおそれ」と書かれることも無くなるだろう。

そしてかねてよりAIシンパであることを知った。

仮に生成AIが現行法で合法だとしても、「AI学習しないでくれ」と表明(お願い)することは別に違法ではないのに、「AI学習禁止」と書く━━「表現する」━━ことさえ法律を遵守しない行為だと言うのだ。それこそ「表現の自由・言論の自由」に対する攻撃だろう。だいたい法律で禁止されてなくても「規約で禁止」などは沢山ある。先にも書いたが二次創作だって権利者がダメと言えばダメなのだ。これで「法律に詳しい」「技術に詳しい」面をしているのである(AIシンパは皆そうだが)。それに絵描きに対する激しい攻撃についても私よりよく知っていたはずなのになぜ何もしなかったのか。「AI学習禁止」と書く表現の自由は無いがネット私刑リンチは表現の自由と言うことか。
そして私はたびたび見かける有名アカウントかつ表自戦士はAIシンパでもあることに気づいた。
もちろんWikipediaに「表現の自由戦士一覧」のような項目はないが、スターリンアイコン、白饅頭(Vtuber)、dada、山田太郎、喜多野土竜など、他に生成AI関連情報を追い始めてから知ったアカウント含めて皆生成AI肯定発言をしていた(いる)のである。
生成AIの出力が「表現」と言えるかの議論は長くなるが、「表現の自由は大切だから画像生成AIの『新しい表現』の自由も大切」という主張はぱっと見おかしくない。だが「両方守る」ではなく「人間の絵描きは攻撃し画像生成AIは守る」と言うのは筋が通らないだろう。ましてやCSAMが含まれる事がハッキリし、「AI生成物を放置すれば、区別が付かない他の表現もまとめて規制される」という危惧(これも無断生成AI反対派は一年前から指摘していた)が高まっても画像生成AIを守り続けるなら、もはや守りたいものは表現ではなくCSAMでは無いか。オタク代表として当選した山田太郎もパパ活するし。

ノイジーマイノリティ

あなたの行動がほとんど無意味であったとしても、それでもあなたはしなくてはならない。それは、世界を変えるためではなく、世界によって自分が変えられないようにするためである

ガンジー

「表自戦士」「ネット右翼」「AIシンパ」━━どれも冷笑系と言っていいだろう━━は層が被っている、いやそれどころか同じ人間が兼任しているのでは無いか、と私は思い至った。
「声が大きい人は声が大きい」━━批判も皮肉も通じないAIシンパの発言ばかり見て精神的に疲弊していた頃、「絵描きのサブ垢」の一人がそう言った。そしてふと思い出したのがノイジーマイノリティという言葉だ。

2018年に約2万人を対象に行われた炎上に関する調査分析によると、影響力を持つ過激な言説はネット投稿全体の2割程度であり、それらは1％程度の投稿者により行われており、残り99％の投稿者による8割の投稿はほとんど観られていない。

ノイジー・マイノリティ - Wikipedia

我々は「ネット世論」をつい「ネット上の投稿」から判断してしまう。だが、実はそれらは1%のノイジーマイノリティが書いてるに過ぎないのだ。ウォール街を占拠せよ運動では「我々は99%だ」＝「(冨の3割を独占する)1%の富裕層のための政治が行われている」というスローガンが唱えられたが、ネット世論も実は1%のノイジーマイノリティに支配されているのだ。

そしてAIシンパが少数派に過ぎない事を示す「データ」は確かにあった。例えばニコニコ動画のアンケートでは毎回生成AIに否定的な結果が出た。Twitter上のアンケートでも毎回肯定派は10%程度だった。もちろん「ネット上のアンケート」など基本的に信用できない。スマホアプリで「スマホ使ってる？」とアンケートを取ればYesが100%になるように、正式な世論調査と違ってランダムサンプリングなどがされて無いからだ。だがTwitterは別に「生成AI推進派」が回答しにくい場所では無い。むしろネットに親和性が高い分その意見が多く反映されておかしくない。他に「質問文が生成AI推進派に有利でもやはり否定意見が上回る」こと等も指摘されていた。そして正式な世論調査では無規制派(AIシンパは無断学習問題無し、学習されたくなければネットに上げるなと言っていた)は1%という結果も出た。

「ネット上のアンケート」では10%という結果が出ていた、つまりAIシンパの意見が10倍反映されていたため、「不正確」であることには変わりないが、それでも現実の傾向をある程度反映してはいたのだ。

また、#AIartタグを付けて投稿されたイラストはいいね/RP数が露骨に減るためAI絵師はそれを隠すことが多いことも指摘されていた。要するに異常な発言を繰り返すAIシンパは1%のノイジーマイノリティに過ぎなかったのだ━━とようやく私は少しホッとすることができた。オタクはちゃんと生成AIに否定的だったのだ━━が、だったらちゃんと声を上げろよ。

どこかの国の大統領が言っていた
声を上げない者たちは賛成していると

欅坂46『サイレントマジョリティー』

ネット上の「言論」には長年「気持ち悪さ」を感じていたが、それは要するに「ノイジーマイノリティの言論」━━何も考えていない言論なのだ。例えばネット右翼の主張をまとめると「コミンテルンの謀略とルーズベルトの陰謀により日本はアジア解放の聖戦に引きずり込まれた」 になる。表自戦士の自己矛盾について細かく書き始めるとキリが無いが生成AI以外について手短にまとめると、例えば彼らは「水着撮影会の表現の自由を求めるデモ」で「警察にNGが出された」らあっさり従うのだ。

「警察に禁止されたので今回はやむなく従いましたが裁判を起こします/法改正を求めます」とかならわかるが、彼らは「警察に従うのは当然だろ？」と冷笑するのだ。警察どころか最高裁が表現を禁止したチャタレー事件についてどう思ってるのだろう。「最高裁が死ねゆうたら死ぬんか」という言葉が話題になったが、「最高裁が死ねと言ったらそりゃ死ぬよ」「最高裁に死ねと言われるぐらい悪いことをしたヤツは死んで当然」と冷笑するなら「最高裁が有害な表現と認めたなら表現者は悪人に決まってる」と言う事か。

この裁判の結果、『チャタレイ夫人の恋人』は問題とされた部分に伏字を用いて1964年に出版された。具体的には該当部分を削除し、そこにアスタリスクマークを用いて削除の意を表した。

チャタレー事件 - Wikipedia

「海外クレカ会社による表現規制」を問題視するならまず獅子身中の虫である刑法175条の法改正運動をすべきだろう。「欧米はポリコレで規制が厳しい」と言うが、海外からは「モザイク処理が必要な日本は規制が厳しい」と思われているのでは無いか。

なおこのモザイク処理だが、別に刑法175条に「モザイク処理しろ」と書かれてる訳では無い。それどころかチャタレー事件でも最高裁は明確な基準を示さなかった。解釈次第でポニーテールも禁止できる天下の悪法なのだ。

付け加えれば表現の自由を規制する改憲案も批判しない。

そしてノイジーマイノリティ(以下、ノイマイと表記する)は環境保護活動家や頂き女子は私刑ころされても仕方ないと平然と言うのだ。

以前赤松健と山田太郎と画像生成AIについて話した時、「エロ漫画の自由も守らないって、じゃあパパ活の自由を守る会ってことですか」と言われた事があるが、これは完全に正鵠を得た表現であった。「表現の自由を守るためのデモ」では警察に従うが、パパ活では警察を批判する、非実在エロを描く人間は攻撃するがCSAMは守るとなれば、守りたいのは「表現」ではなく「パパ活」の自由としか言えないだろう。Wikipediaには「ズリネタの自由戦士」という揶揄が載っているが、これは不正確でパパ活の自由戦士と呼ぶのが正確だ。
「表現規制はまずエロから始まるんだ！」という「それってあなたの感想論文あるんですか？」と言いたくなる言説があるが、少なくとも人間を焼きながら本が焼かれるのは無視する人間が言っても説得力は無い。

「透明な存在」

ノイマイは「どんな理由があろうと法律を破ることは許されない」と言ったかと思えば「こんな事情があるなら加害者にも同情の余地はある」と言うなど、その場その場「だけ」見ればもっともらしい事を言ってるようで実際には何の論理的一貫性も無い。
ノイマイはネット上のマイナーな知識を知っているというだけで自分が賢いと思っているふしがあるが、生成AIについても一部「専門家」の主張を鵜呑みにしているだけだ。冒頭で私は「権威主義の問題とされている●●●●●のは本当の権威主義では無いことだ」と書いたが、彼らが本当に権威主義ならば米国著作権局長や三大学術誌や(規制の必要を認めている)AI開発者自身の言葉にも従うだろう。彼らが信じているのは「権威」と言うより「自分に都合のいいことを言ってくれる人間」だ。それは普通教祖と呼ぶ。

最近気づいたのだが、ノイマイは批判されることがあり得ないのだ。ネットの「多数派(に見える、実際には1%)」に常に意見を合わせてるから批判される事自体がまず無いし、たまに批判されて屁理屈しか返せなくても数の力でなんだか勝ったような気持ちになるからだ。「AIのコピペで思考力が落ちる」という話があるが、こちらの方も余程思考力を落とすだろう。
Wikipediaの「ネット右翼」の項目には特に顕著な点として「排外主義」が挙げられている。先に「生成AIは人間の尊厳の破壊自体を目的としている」と書いたが、「ネット右翼」「表自戦士」「AIシンパ」は天皇も表現の自由も守ろうとしない。彼らの行動に「一貫した目的」を見つけ出そうとすれば、「国家」「表現の自由」「AI」という「すごい存在」を叩き棒としてマウントを取りたいだけなのだ。

ここから俗流心理分析的な事を書くが、14歳の中学生が小学生を惨殺した酒鬼薔薇聖斗事件の犯人が「透明な存在」と言った時、同世代で共感する人間が少なからずいたという。事件が起きたのは1997年だから「同世代」とは40歳前後である。1997年はインターネットが一般に普及し始めた時期でもある。そしてAI絵師はアンケートで30代と40代以上が8割を占めることが示された。要するに「透明な存在」という言葉に共感したのと同じ世代である。

もちろん「アンケート」に過ぎないが、AI絵師自身が発表したアンケートではある。
「透明な存在」(＝「遍在と無」)について以下のような考察がある。

現実に物が壊れたり、生命が失われたりすれば、そこには否応なく不可逆的な変化が生じる。とはいえ不可逆的な変化が生じるならば、当の行為には何らかの意味があるはずではないか。
「遍在と無」の状態にある者にとって、破壊は充実感や生きがいを感じうる唯一の行為であり、アイデンティティの確立━━いわゆる「自分探し」につながりうる無二の鍵なのである。

佐藤健志『未来喪失』

何が言いたいかといえば、ノイマイとは「透明な存在」では無いかということだ。「ネット世論」に飲み込まれ「自分の考え」を一切無くし、マウント＝「他人を叩く」こと以外に意味を見出せない。その結果が「AI棒」で人間を殴るAIシンパだ。
「何者にもなれない」という言葉があるが、「特別な存在」になれないのはもちろん普通の事だ。例えばアニメーターでも「絵を描ける」という点では「特別」でも、名声を得ている訳でも経済的に豊かな訳でも無い人が大半だろう。

「無産オタク」という言葉にしても、以前書いたように創作ができないのは当たり前のことで普通にアニメとかを楽しめばいいだけだ。「批評家の像が建ったことは無い」という言葉があるが、実際には批評家の像は沢山あるので、アニメを見て普通に感想を書く(例え「面白かった」の一言でも)のは普通に立派な行為である。

「ノイマイ(ノイジーマイノリティ)オタク」＝表自戦士は単に帝国側となったオタクというステータスを維持したいだけでアニメや漫画を「消費」してる訳でも無いのではないか、情報を食ってるだけでは無いか、と私は推測している。そもそも「無産オタク」という言葉を最初に発したのも煽り文句に使ってる人間も「無産」かクリエイティブ症候群(＝「創作」は一応している程度で「クリエイター」の肩書を得ることが第一の目的)では無いかと思う。

ネィティブプログラマーはオタクです。実は社会貢献とか顧客満足度とか、発明とか、そういうものには興味はありません。ただただ、真っ白なところから、アーキテクチャーを考え、プログラミングによって、動くものが創造され、その過程が、プロセスが楽しいのです。(中略)
たぶん、ご質問のような悩みは、何と言えばいいののでしょうか、クリエイティブ症候群、とでも言えばいいのでしょうか。本当の楽しみを追っているのではなく、手っ取り早く名誉だけ欲しいのではないでしょうか。持論ですが、チャンスの女神は、そういうところには現れません。

プログラミングで明確に作りたいものがないです。他人の模倣もしたくないし車輪の再発明も興味が湧きません。何から手を付ければ良いのでしょうか・・？自分にとって必要なソフトウェアも思いつきません・・に対するShimizu Hiroyukiさんの回答 - Quora

生成AIは「クリエイター」の肩書を手に入れ(＝アイデンティティの確立)かつ「他人の破壊」もできる、まさに「透明な存在」にとって打ってつけのツールなのだ。
日本の「反AI」など生温いものだ。多くの絵描きが「無断学習」に反対した、日本俳優連合も#NOMORE無断生成AIと言ったが、Blueskyでは「(無断とかの前置き●●●無しで)生成AIは抑圧の道具で何に対しても使うな」あるいは「生成AIは情報は検証可能で価値があるという概念それ自体への攻撃だ」というというポストが「最も反響を集めているポスト」botに流れて来る。
補足しておくと、「無断でない画像生成AI」というのは実現不可能なのだ。Mitsuaというパブリックドメインの画像などで訓練した画像生成AIプロジェクトがあるのだが、公式が提示している生成例は以下のようにぶっちゃけクオリティが低い。

現在の画像生成AIは基本的にStable Diffusion、(問題だらけのデータセット)LAION-5Bをベースにしており、これには58億枚の画像が含まれている。フィクションでも「凄さ」をアピールする時は「私の戦闘力は53万です」のように現実的●●●な数字を使うのに本当の現実はその一万倍だ。これだけの画像を許可を得た上で集めるのは不可能である。もちろんそれ以下の枚数の画像でも(ぱっと見)大丈夫な絵を生成できる可能性はあるが、「技術の進歩には犠牲が付き物なんだよ！」と言ってるAI絵師たちは「理論上これぐらいの画像を集めれば大丈夫」などの研究もプログラミングも当然していない。
つまり、(現在のアルゴリズムを改善しない限り)画像生成AIは無断機械学習が不可欠であり、「無断画像生成AIを禁止」＝「画像生成AIを禁止」となるのである。

2024/5/15編集:
一口に「生成AI」と言っても色々あるが、LLMについては著作権的に問題無い方法で実用的なものが作れると発表されている。

ナチスの話に戻るが、ミルグラムの服従実験でも、(アイヒマン自身はともかく)「責任を負わせないシステム」がホロコーストを可能にしたことが示された。

> 実験者：「お続け下さい、どうぞ」
> 被験者：「全責任を取ってくれるんですか？」
(中略)
被験者は、責任が自分に一切関わらないなら、隣の部屋にいる人間を殺しても自分としては何ら構わない、ということを言ったことになる。

羽生辰郎『支配と服従の倫理学』 - ミネルヴァ書房

もっとも実験の「解釈」については、「崇高な使命」だと思えば人間は人を殺せると言うものもある。「人間は『正義の側に立った』と思った時最も残虐になるってヤツだなw」と「冷笑系」(＝ノイマイ)は言うかもしれないが、「表現の自由」や「技術の発展」を掲げるのも「正義の側に立つ」事だろう。それにこれは以下のようなものだ。

彼らは、誘惑に抵抗するためのロジックを反転することができた。彼らの「倫理的」な努力は「殺さず、拷問せず、恥をかかせないという誘惑」への抵抗に向けられたのだ。こうして、哀れみや同情という自然な倫理的衝動に背く●●●●●●●●●●●●●●●●●●●●という、まさしくその行為こそが、倫理的に崇高であることを証明するものとなってしまった。

■ - flurryのとこ。

「AIの発展」という正義を掲げ、「哀れみや同情という自然な倫理的衝動に背くという、まさしくその行為こそが、倫理的に崇高である」と考えてるのは誰の事か、考えた方が良いだろう(お前もだよ、と言われそうだが)。

磨伸 映一郎『氷室の天地 Fate/school life』 (12)

私は以前「AIの真の危険性は責任の透明化」と書いたが、これは生成AIにも当然当てはまる。

「この15年間、アルゴリズムなどという言葉を乱発する企業が増えたが、その意味を真剣に理解しているわけではない。これらの人々はアルゴリズムが何を意味するのか知りません」「私の業界の人々がそれについて話すとき、彼らは単にそのアルゴリズムが何をしているのかに対して、責任を負いたくないのです」

映画『オッペンハイマー』クリストファー・ノーラン監督、人工知能へ警戒心「AI分野の第一線の研究者たちと話すと・・」 - tvgroove

AIシンパ＝ノイマイについては、生成AIにより「責任の透明化」が進んだ面もあるが、ノイマイは元々「ネット世論」に常に自分を合わせ続ける「自分の意思」が存在しない「透明な存在」で、「責任」が生じない構造の中にいた。生成AIは結果であると同時に原因なのだ。

超富裕の男性たちが本当に聞きたいのはまったく別のことでした。人類の滅亡に関わる「事件」が起きたとき、どこに逃げるのがよいのか？ シェルターで外部から支援なしにどれくらいの期間の生存を想定しておくべきか？ 事件発生後、自分の警備隊に対する支配をどうやって維持できるか？
人間そのものと人間関係に投資し、人間同士の協力と連帯で危機に対処すべきというラシュコフのアドバイスは一顧だにされず、生存の保証の見返りに警備員に「しつけ首輪」を付けさせたらどうかなど、富豪たちの意見はグロテスクを極めます。
このときの体験によりラシュコフは、彼らにとって「テクノロジーの未来」とは、勝者が他の人類を置き去りにして逃げられることを意味し、そうした人間性に配慮しない運命論的な志向は、暴走したデジタル資本主義の結果ではなく原因なのだと気付きます。

テクノ楽観主義者からラッダイトまで – WirelessWire News

特定の個人を愛せ、抽象的な概念を愛すな

フョードル・ドストエフスキー

『ゴジラ -1.0』では「見捨てられた人々」が血縁などの「概念」に頼らずコミュニティを築き上げ脅威(ゴジラ)を現実的な方法で打ち倒すまでが描かれるが、「現実を見る」ことと「夢を見る」ことは両立させなければならないのだろう。いや、この世界に救いなど無く、反出生主義が正しいかもしれないが、その場合もすべての人間が子供を作らず人類が一人残らず死に絶えるようにするための現実的な方法を考えなくてはならない。エリクサーは存在しないのだから。

私たちはこれまでもこれからも困難に直面する。それでも私は夢を持っている。

キング牧師

サポートいただけると記事を書く時間や質問に回答できる時間が増えます。