「クリーンなAI」は存在しうるか？ 「クリーンな人間」は？
AI市場という「火事場」
OpenAIに対する訴訟が相次いでいます。
2023年の末、NYタイムズがOpenAIを証拠つきで訴えました。
日本でも、特に画像生成のAI技術については多くの炎上案件があり、現在のAI市場は「火事場」と表現しても過言ではないでしょう。
NYタイムズが勝つかどうかはわかりません。……が、証拠として提出された画像では、たしかに著作権を侵害していると言えるほど、学習元の記事に酷似した結果が生成されています。
NYタイムズがここにたどりつくまで、プロンプトをかなり研究し、また幾度となく再試行する長い道のりがあったのではないかと思います。
あくまで個人的な見解ですが、OpenAI側が「異常な動作である」と反論していることや、AIの「幻覚症状」が問題となっているとおり、通常ではここまで類似した内容をChatGPTが出してくるとは考えにくいです。
……「学習元と酷似した結果を生成させること」を目的としない限り。
また、日本語で生成させると発音がおかしなことになったりもするので、学習元に酷似した結果を出すのは、「本場であるアメリカの記事であり、かつ英語で出力させること」が条件になってくるのかもしれません。
この訴訟でNYタイムズが優勢になった場合、OpenAIとマイクロソフトは巨額の金を支払って和解に持っていく確率が高いでしょう。学習元となる無数のコンテンツの権利者すべてに、賠償金を支払うことは不可能だと思うので。
OpenAIが使いうる「禁じ手」
ところで、ぼくはOpenAIにも「禁じ手」級の切り札があると思っています。
それは──
「我々のAIは著作権の侵害を誘発し、各コンテンツの権利者に損害を与えるものでした。
二度とこのような事態を起こさぬよう、我々はChatGPTのサービスを廃止し、非営利法人としての起源に立ち返るため、学習元となるコンテンツを厳選した『クリーンなAI』の開発に着手します。
ChatGPTの生成結果は、多分野の著作権を侵害している可能性がございます。少しでも本サービスの生成結果を含んだあらゆるコンテンツは、著作権に抵触する恐れがありますので、即時の取り下げを推奨いたします」
──と、声明を出すこと。水谷の誇大妄想ですが。
要するに、「火をつけられたから、火をつけ返す」ということですね。
またややこしいことに、OpenAIは元々が非営利団体なので、「NPOとしての使命に従い、無断学習コンテンツを根絶することから始めます」と宣言しても、一応の建前としては通ってしまうんじゃないかと思います。
正直な話、サム・アルトマン氏が放り出される事件が起きたあたり、OpenAIがこの暴挙に出る可能性はありうると思っています。
同社およびマイクロソフトがコンテンツホルダー全員に利益を分配することに比べれば、こちらのほうがはるかに現実的でしょう。
（アルトマン氏が戻ってきたときに組織再編が行われたと思いますので、以前よりもリスクは低いと考えられますが汗）
「ほんのわずかなコンテンツ」で大騒ぎできる世界
さて。
これが起きたら、世界は大混乱に陥ること間違いないでしょう。最近、ChatGPTをほんの欠片も使っていない記事・小説・漫画・映像・ゲーム・セミナー等々を、どれくらい見ましたか？
ChatGPTがリリースされてからまだ１年ですから、世界全体のコンテンツ総量に比べれば、同サービスを用いた制作物はほんのわずかでしょう。
しかし、その「わずか」に勧告するだけで、世界は十分すぎるほど大騒ぎできる段階に来ています。
原告であるはずのNYタイムズでさえ、無傷ではいられないでしょう。いくら社内でルールを厳しくしていたとしても、4,000名を超える社員の誰もがChatGPTの生成結果を記事や社外向け文書に盛り込んでいないとは考えにくいからです。
OpenAIだけでなく、NYタイムズへ石を投げる人々も現れるのは目に見えています。
「クリーンなAI」は存在しうるか？
ぼくも、一部のクリエイター様から白い目で見られるようなソフトをいくつか使っています。今回のChatGPTや、Adobe Fireflyなどが代表例。
Fireflyは「学習元がAdobe Stockなので著作権に対して配慮している」……という説明になっていますが、そもそものAdobe Stockが転載の温床になってしまっているため、「ノーリスク」とは言えません。
多くのAIソフトが燃えている炎の海を見て、ぼくはひとつの疑問を抱きました。
「一般人が使いうる──つまり、いち企業の社内ソフトではないサービスとして、『クリーンなAI』は存在しうるのか？」
今のところ、ぼくは存在し得ないと感じています。
AdobeのFireflyが好例でしょう。開発元が「著作権に極限まで配慮して学習させた」と思っていても、そこに転載されたものや盗作が混ざっていれば、「クリーンとは言えないAI」になります。
「クリーンではないAI」の生産者は？
……ところで、きれいなAIを作れない原因は、なんなのでしょう？
「営利を突き詰める企業」かもしれません。「悪意を持った一部の人」とも言えるでしょう。
ただ……ぼくとしては、「全人類そのもの」だと思えてなりません。
2010年代の前半から、ディープラーニングの話はすでに出ていました。Facebookを始めとした各種SNSによる個人情報の収集や分析、あるいはターゲティング広告のためのデータ収集や学習についても問題になりました。
SFのエッセンスを取り込んだコンテンツやエンタメでは、「AIが創作できるようになる」「AIに支配される」といった話も山ほど出ていました。
2020年代のAIについて語る材料は、十分すぎるほどあったはずです。
──しかし、ぼくらは議論しませんでした。
当時の旧Twitterで「AI学習禁止」という文言をプロフィールに書いているクリエイターがいたら、「考えすぎ」扱いをされたかもしれません。
もう一度、言います。
ぼくたちは、2020年代のAI問題が来ることを、十分に議論しませんでした。
なぜかと言えば……直接的には見えなかったからです。
AIなどなくとも、コンテンツは加速度をつけて増え続けています。情報とエンタメに触れているだけで、24時間など簡単に消費できる時代です。
目の前の問題から寄り道できるほどの余裕はありません。「見えない部分まで見ようとする人」は、絶滅危惧種と言ってよいでしょう。
今でも大半の人は、自分の専門分野から一歩でも外に出ると、急に視界が曇ります。
ぼくのようなライターがAIにデザインを任せてしまうこともあれば、画像生成AIの台頭に困っていながら「でも、文章は苦手なので、チラシのコピーとかはChatGPTに任せちゃってます！」と笑顔でお話してくれるデザイナーさんやイラストレーターさんもちょくちょくいます。
（ぼくは二度見したい気持ちをぐっとこらえます）
また、ぼくは生成系AIの発展後、増えすぎたコンテンツを消費し、経済市場のパイを大きくするための「消費系AI」が出てくると思っています。そして、消費系AIが育ってくると、AIによるクローリングの精度が以前よりもはるかに向上し、海賊版の収集や無断転載を目的とした利用者が氾濫し、またもネットは乱痴気騒ぎになるはずです。
……ぼくの予想が当たるかどうかはともかく、そもそも「消費系AI」なんていうものを議論している人は周囲にいません。当然です。そんな余裕、誰も持っていないのですから。
（単純に、ぼくが的外れなだけかもしれませんが……汗）
AIという技術を欲したぼくら──あるいは、生成系AIが登場するまで十分に議論しなかったぼくらの目は、「クリーン」なのでしょうか？
人間は「クリーン」か？
サム・アルトマン氏は、NYタイムズへの反論として、以下のような発言をしています。
「生成AIが各種テキストなどのコンテンツを機械学習するのは、ちょうど我々人間が書物や新聞などを読んで学ぶのと同じことだ」
もちろん、これはChatGPTの学習を正当化するための言葉ですが、真理の一部でもあるのかもしれません。
クリエイターないしアーティストと呼ばれる人々には、常に「オリジナリティという呪い」がつきまといます。
制作職でない人からは「ゼロから作るなんてすごいですね！」と言っていただけることが多いのですが……「ゼロから」なんてことはありません。どんな天才の脳みそにだって、「なにかを生みだすための材料」が詰まっています。本当に無からなにかを作れるのは、キリストに代表される神々だけです。
ぼくは「すべての人工コンテンツは、現実や既存作品のパロディ」だと思うことにしているので、「オリジナリティの呪い」に首を絞められることは少ないのですが……今回のAI騒動で、久々にさいなまれました。
今のところ、noteの記事を書くときにChatGPTを使ったことはないのですが、ぼくがやっていることは生成AIと大して変わりません。誰かの発言やら、いろんな記事やら、偉大な先人が書いた本やらを学習し、少なからずフリーライドして制作をしています。
先日にStability AIから退社した元幹部のニュートン・レックス氏は、人間とAIにおける学習の違いとして「社会契約」と「スケール」を挙げました。人間が先人から学ぶのは皆の共通認識であり、また個人は、AIのように世界中のコンテンツを代替できるほどのスケールを持ち得ない。よって、人間の場合、AIのような無断学習が問題にはならない──ということです。
ある程度の制作は、この説明でカバーできるでしょう。活動が純粋に個人的なものであり、資本主義の舞台に立たされた「企業という人格」から目をそらすのであれば。
ぼくのクライアントは、99.9％が企業でした。数名のスタートアップ企業様から、千人以上の社員を抱える大企業様まで、さまざざまな企業からご依頼を受け、どんなに小さく低価格なご依頼でも、最良の制作物を出そうとしてきました。どの企業様にも、現在のコンテンツ業界における苦境を生き抜き、できる限り予算を抑えつつ、最大限の利益を出してほしいと心から願っているからです。
（水谷の悪癖ですので、絶対に真似はしないでください汗）
エンタメ業界は、上位１％のコンテンツが売上の９割を占める世界です。この業界で、ぼくは文章を書き、マニュアルを作り、ノウハウを共有してきました。クライアントがポジションを取れるように──つまり、明らかなスケールと、コンテンツの量産体制を整えるために。
「AIと人間の学習が同じ」と言うのはさすがに暴論だと思いますが、根幹が「学習とコンテンツ制作」にある限り、ぼくと生成AIには切っても切れない共通性があるとも考えています。
現に、ニュートン・レックス氏の発言は、「人間の学習 ≠ AIの学習」ということを説明しているのであって、「人間とAIの学習には共通項が存在しない」と言っているのではありません。
……しかし、SNSを中心に伝言ゲームが展開された結果、AIを巡る議論によって人間の分断は加速していると思います。
今の時代、言論はすぐに拡散され、原文がどんなに丁寧な言葉遣いだろうと、引用と編集によって過激かつ荒っぽい言い回しへ変換されていきます。恣意的なキュレーションは、思想が同じ人から熱狂的な支持を集める一方、発言者の見えないところで、誰かの精神を完膚なきまでに叩きのめします。
──きっと、どんなに正当性がある制作や言論でも、自分以外の他者が存在する限り、あらゆる表現は誰かの大切なものを傷つけるのでしょう。
飾り切りを見せる包丁が、誰かの肉を刺すこともあるように。敵を倒すための鉛玉が、敵意もないはずの民間人を撃ち抜くように。正当性に満ちた言葉が、ぼくを切り刻むように。
「いかにAIを使わず、自分の手で書いているのだとしても、ぼくは誰かのクリエイティブを無断学習して、制作や表現をしている」
そう思うと、希死念慮が帰巣本能でも持っているかのように頭の中へ集まり、とぐろを巻いていきます。こうした葛藤は、今後もたびたび、ぼくを襲うのでしょう。ぼく自身、この「ドス黒い蛇」が嫌いではないので、無理に脳内から追い出そうとも思いませんが。
まとめ──という名の呪詛
話が脱線しつつあるので、そろそろ締めましょう。
最後に、「まとめという皮を被った呪詛」を置いておきます。せっかくここまで読んでくれた方に呪詛などというものをよこすのは恐縮ですが、「読み流して終わり」というのもまた、時間と心身の浪費にしかならないと思うので。
【まとめの質問】
クリーンなAIは、あると思いますか？
クリーンな人類は、いると思いますか？
……ぼくとあなたは、クリーンだと思いますか？
ぼくは、鬱屈と疑問のどん底に沈殿しながら、これからも制作だの、創作だの、クリエイティブだのをやっていこうと思います。
なお、AppleがAI市場への参入のため、5,000万ドルかけて、学習のための契約をメディアと結ぼうとしている動きもあるようです。Appleが常に得意としている「後攻でのポジショニング」ですね。
こういうAIが出てきたとき、ぼくはリスクを調べたうえで、必ず使用するでしょう。
……ぼくは、どれほど崇高な使命を持とうとも、自分がクリーンな生物にはなり得ないと思うので。
この記事が気に入ったらサポートをしてみませんか？