営為としてのアート：「AIがアートを作れない理由」を読んで《テッド・チャンさん備忘録より》
8/31付で、またThe New Yorkerへの寄稿が公開されていました。生成AIについてです。
Why A.I. Isn’t Going to Make Art [The New Yorker]
以下は感想（引用部は拙訳）です。
記事では「アート」（文章、視覚芸術etc.をひっくるめて）を膨大な選択を通して作られるものとしていて、その過程を含めた全体が「作る側の経験として」定義されている印象でした。以前、どこかで脳を内側から（自分の経験として）見るか、外側から物質として見るか……という分け方を見た覚えがあるんですが（どこで見たのかわかりません。ゴメンナサイ(^^;)）、それで言うと内側から「経験として」捉えている描写が多いと思います。
生成AIが「作った」ものが鑑賞に堪えるようになるのは、あるとしてもずっと先とされています。でもそこは一般的にどう捉えられているんだろう……と少し思いました。動物に筆を持たせて抽象画のようなものをキャンバスに描かせる見世物がありますが、今はそれに近い感覚で「AI製」を面白がってる段階だろうか。それともすでに、AIで作ったものと人間が作ったものを「受け手が」見て区別できるかどうか、というチューリング・テストが成立する局面だろうか。
チャンさんの見方はどこまでも作り手寄りで、個人的にも（ささやかながら創作はしてるので）感情として賛同しやすいです。ただ、そう捉える人は多数派ではないかも？ ともどこかで感じています。
そして自分がアートの受け手／鑑賞者であるとき、どこまでを「許せる」だろうか？ とも。個人的には「"何かに似たもの"をもっとほしい」とは思わない————「●●が好きならこれも好きでしょう」と薦められたものがなぜかたいていダメだった————というタイプなので、「何々風の作風でAIが作った」という触れ込みに魅力は感じません。あっても好奇心どまりでしょう。
むしろ今は「AIが作った小説を読む」と想像しただけで、なぜか屈辱的な感じがするのです。頭で考えた結果というより、ごく反射的・直観的な反応で。コテコテのマーケティングでできてるのが透けて見えるものを見た時の抵抗感と似ているかもしれません。でもこれは過渡的なことなんだろうか？ とも自問しています。工場でAIを搭載したオートメーションロボットが大量生産したシュークリームを、それなりにおいしくいただくのと、どう違うだろう……あ、やっぱり違うかな。工場のロボットは人間が細かく設定して、その設定どおりのものを作るのだから。AIは、比喩をシュークリームにしてみると、ネットに上がっている「シュークリームの作り方」をできる限り多く取り込んで、その平均値のレシピで作るみたいなことで。それはたしかにたいしたものにはならなそう。
チャンさんは皮肉として、膨大なプロンプトで修正していくならレベルは上がるかもしれないけど、その「膨大な手間」を前提とした生成AIなんてそもそも需要がなくて、企業は提供する気にはならないだろう……と書いていますが、うなずけます。シュークリーム工場は「膨大なプロンプトを書く」ほうに近い例ですね。（しかも「AI」全般と「生成AI」は文脈として区別しなきゃいけない。うーん、知恵熱出そう☆(^^;)）
チャンさんが「手間」とは別の切り口でアートの定義に含めるのは、言語はコミュニケーションの意図を内包している、ということ。
Language is, by definition, a system of communication, and it requires an intention to communicate.
定義に即して言えば、言語とはコミュニケーションのシステムであり、コミュニケートしようという意図／意思を持つことが条件となる。
ChatGPT feels nothing and desires nothing, and this lack of intention is why ChatGPT is not actually using language.
ChatGPTは何も感じず、何も欲しない。 この意図／意思の欠如が、ChatGPTが実際に言語を使っているわけではないという理由だ。
個人的には作品を享受するときに作者のことを第一には考えないほうですが、AIが「書いた」小説を読むと思うと屈辱的な感じがするのは、たしかにこの感覚——この陰に人間がいるかどうか——が根底にあるのかもしれません。それも、文章や絵のほうがその程度が強い。これがたとえば花瓶や食器だったら、自分の好みでさえあれば「生成AIによるデザイン・製造」か「手作り」かはあまり気にならない気がします。もちろん手作りと聞けばプレミア感はありますが……もしかしたら、文章や絵もそうなっていくんでしょうか。「人間が書いた・描いた」ということが、特別な「プレミア」扱いになることが。
But is the world better off with more documents that have had minimal effort expended on them?
しかし、最小限の努力で作られたドキュメントが増えることで、より良い世界になるだろうか？
ここは一番心に響いたところでした。AIという道具を「どう使うか」は人間の選択ですから。世界を改善するために使う、というのは広義のSF好きにとっては懐かしいくらい当たり前の概念ですが、それが現実にはなぜかズレた方向に暴走している。それを現に目撃しているのに、この疎外感、無力感はなんだろう。私たち一般人にできることはあるのだろうか。「コレジャナイ」感を足がかりにしたとしても、消費者の立場でどう進めばいいのだろう。そのスモールステップはなんだろう。そんなことを思います。ラッダイト運動めいたことではなく、違うアプローチがある気がするのですが、それがわかりません。おそらくAIだけを取り出した問題ではなく、社会全体の在り方に影響するものであるはずです。
＊ ＊ ＊
長い記事でしたが、自分の解釈では「生成AI用のプロンプトを書くこと」は「芸術作品（高尚なものからエンタメまで含めて）を作るという体験」にはなりえない、というお話でした。それでも「生成AIが吐き出したものは、"鑑賞者にとって"アートなのか？」というところには、まだまだ議論の余地がありそうだと思いました。象さんが鼻に持った筆で描いた絵でも、見る人が「面白い」「美しい」と思えばアートなのか。
…このへんにくると、やはりチャンさんもよく指摘する「資本主義」がふっと意識に上ります。今回チャン氏は具体的には言及していませんが、「生成AIが吐き出した絵・文章に値段がつけられるかどうか」がやはり気になるところ。もっとも、下記の部分が充分説明しているかもしれません。
Most of the choices in the resulting image have to be borrowed from similar paintings found online; the image might be exquisitely rendered, but the person entering the prompt can’t claim credit for that.
（AIが画像を生成するには）その過程のほとんどの選択を、ネット上にある似た画像から借りなくてはならない。結果としてできた画像は見事に描画されているかもしれないが、プロンプトを書いた人間が自分の功績だと主張することはできない。
The programmer Simon Willison has described the training for large language models as “money laundering for copyrighted data,” which I find a useful way to think about the appeal of generative-A.I. programs: they let you engage in something like plagiarism, but there’s no guilt associated with it because it’s not clear even to you that you’re copying.
プログラマーのサイモン・ウィリソンは、大規模言語モデルの訓練を「著作権のあるデータのマネーロンダリング」と表現した。この表現は、生成AIが人を惹きつける「魅力」を考えるうえで役に立つと思う。生成AIは、あなたに一種の盗作めいたことをさせているのだが、そこに罪悪感は生じない。なぜなら、あなたがコピーをしていることが、当のあなたにとってさえわからないからだ。
上記のウィリソンの発言ソースは見つけていませんが、ご本人についてWikiに説明がありました。
Simon Willison (wikipedia英語版)
ご本人のブログがこちら。ご興味のある方はどうぞ。（私にはとても読みこなせません！(^^;)）
Simon Willison’s Weblog https://simonwillison.net/
著作権という概念は、ぶっちゃけ「お金に換算する」ところで発明されたものですよね。一番気になるのもそこです。つまりAIが、生身のアーティストや作家等の道具ではなく仕事を奪うライバルになり得るのかどうか。ちょっと前のハリウッドの騒動なんかはこの辺を問題視したわかりやすい例ですが、「生身の人間を使わずに同等のものが作れる」可能性を前提にしていました。
ここにはチャンさんが詳細に指摘した「作る側の体験」だけでなく、「受け手の体験」——私たちが無意識のうちにしている判断・反応の基盤にある価値観がかなり大きく影響するはずです。私が「AIが書いた小説を読むのは屈辱的な気がする」というのも、その反映の一つです。はっきりお粗末なものだとわかる場合は別としても、じゃあAI製だとバレなければいいんだろうか？ そうして量産されたものを私たちは消費したいと思うだろうか？ …なんかそれこそ『マトリックス』系の世界観で、どこかに眠ったまま夢を見せられるような不気味さを感じるのですが、私だけでしょうか。
そして「価格」と「アートの価値」が結びつくのは、「物は売り買いするもの」という思考の枠内でのことかも？ と思いつくと……なかなか見方が変わってくるのであります。「制作」のコストではなく、「鑑賞」のコストがいっさいかからないとしたら。子供の落書きも、現在億単位の値がついてる絵画も、同じように無料で見られるとしたら。そんな世界なら、アートだけでなく生活全般にそうしたコストゼロのシステムが反映しているでしょうから、意識の向く先が変わってくるはずですね。果たしてその時アートの価値の定義はどうなるのか？ たとえば自然の風景を見たときの感動とどう区別するんだろう？ そう考えると、自分の価値観や判断も「価格」や「パッケージ（上っ面のスタイル）」にかなり依拠しているのかわかります。その中で育ってきたんですもんね。それを客観的に見るのは難しいです。「価格」と「好き嫌い」と「押し出しの立派さ」（？）以外のアートの価値基準とはなんだろう？
他にも、インスピレーションさえあれば芸術作品は作れるという主張は間違い（経験がないためにそう思うだけ）だとか、鋭い指摘がいくつも読めました。この問題ってアート方面に限らないことですね。「AIの使い方」自体が問われている時代に生きているのだと、つくづく思います。でも開発者でも販売者でもない身でどうかかわっていくのか、あるいは遠ざけるのか。「生成AI」は身近に触れられる「オモチャ」なので広く興味を引いていますが、AIの使い道の一つにすぎません。これに目をくらまされて、より重要な側面でのAIの使われ方から目をそらされることがないようにしなくては、とも思います。
生成AIが人間性を奪うという意味を、チャン氏はこう説明しています。
The task that generative A.I. has been most successful at is lowering our expectations, both of the things we read and of ourselves when we write anything for others to read. It is a fundamentally dehumanizing technology because it treats us as less than what we are: creators and apprehenders of meaning. It reduces the amount of intention in the world.
生成AIが成した仕事のうちでもっとも成功したことは、私たちの期待値を下げることだ。自分が読むものに対する期待、そして他者に読んでもらうことを前提に何かを書く時の自分に対する期待、その両方を低下させる。これは根本的に人間性を奪い取るテクノロジーだ。なぜなら、それは私たち——クリエイターと、その意図や意味を理解する者——を、実際より価値の低いものとして軽く扱うからだ。こうした扱いをすることは、世界から意図／意志の総量を減少させる。
…いつも思うのですが、同時代にいてもその時のあらゆる情報を知っているわけではないんですよね。アクセスできたとしても一人の人間の頭脳で把握しきれるものではないでしょう。歴史を読んで「なんでこんなことをしていたんだ」と思うことが多々ありますが、自分も未来の人たちからそう見られるんだろうな、なんてことも思います。でもあきらめちゃいけないな。人類の細胞のひとつとしてどう生きるかは、自分の判断にかかっているわけですから。もしかしたら、こういうことを考える契機になっていることのほうが、未来から見たら「生成AI」の功績になるのかもしれませんね。
＊ ＊ ＊
触発されて考えたことのメモなので、思考がぐるぐるして同じことを繰り返し書いちゃったかもしれません。読みにくかったらスミマセン。（そして拙訳部分もイマイチこなれてません。誤字脱字チェックも自信ないのでご容赦を☆(^^;)）でもとりあえずアップします。推敲したり書き足したりしていると終わりがないので。凡人にまでこうさせてしまう、チャンさんの文章はほんとに触発力がすごいです。次の寄稿も期待しています。でも間はあけていいですよ（笑）……こうして解釈を書くだけでも格闘で、今の自分にはすごく時間がかかります。でもその時間こそが大事で、いろんなところに目を向ける機会をもらっています。（それこそAIで要約を作って記録したらそれは得られない体験だし、そんなことをしてもこのブログでは何の意味もないです）
Originally published at https://sussanrap-ted-chiang.blogspot.com.
最後までお読みくださり、ありがとうございました！