テッド・チャンのスペインでのAI企業批判を紹介するついでに、感想を書きました
先日11/8に、スペインのバルセロナで開かれた、「The 42nd Festival of Fantastic Genres」というイベントでのチャンの発言らしいです。
今回は、特にAIアート批判という感じではありませんでした。「AIは資本主義のナイフの刃を研ぐ研ぎ器である」という見出しどおり、そんな感じのいつも通りのビッグテック批判です。
これで全てなんでしょうか？まだ講演みたいなものをする？
スペイン語→英語をグーグル翻訳、その英語を自分で翻訳しました。でも、途中でスペイン語ではなくカタロニア語でしょってそのツールに言われてそうなんだと思いました。方言じゃないんだ？
以下内容の、気になった部分だけの翻訳と要約です。括弧内は私の補足です。
・紹介文「チャンはカルト的人気を誇る作家で、まだ完成していない彼の過去作に賞を送るほど熱狂的な振る舞いが見られるほど」
以下全部チャンの発言
・同時代の文学はテクノロジーに関する議論を避けがちだけどテクノロジーは我々の生活の一部なので避けられない。
・自己意識のある機械を作ることは、我々が生きているうちには達成されないと思う。機械に自己意識をもたせる方法を我々の誰も知らないから。知っていると言う人は、我々を騙しているか、彼ら自身を騙しているかのどちらかだ。もしかしたら彼らは、SFの本で読んだことを真面目に取りすぎたのかも。
〝 Those who say yes are either deceiving us or deceiving themselves. Perhaps they have taken too seriously what they have read in science fiction books.〟
・AIが人類を支配して滅ぼそうと決断するなどのシナリオについては心配していない。単にテクノロジーが様々な物事の効率化をもたらしただけであり、本当の危険とは、その効率化がビッグテックの権力の蓄積と抑圧的な政府を強力にすること。「AIは資本主義のナイフの刃を研ぐ研ぎ器だ」
"AI is the sharpener that sharpens the blade of capitalism's knife."
・私達が時間がないと言うとき、私達が資本主義の影響に苦しんでいることを意味する。私達が行うすべてのことが経済的に有用でなければならないと信じることに抵抗しなければならない。それはすでに資本主義に対する抵抗の一形態です。
・チャンは人間とは何かを、新たな可能性と新たな地平に開かれる能力と定義した。人間は可能性に対してオープンであり、人間であるとはある意味において、そのような態度――予期しないこと、予測しないことが入ってくる余地がある態度を取ることを意味する。新しい状況にオープンであるという能力が、人間と他の動物との差である。人間であるとは、あらゆる可能性に対して開かれているということである。
・ドナルド・トランプとイーロン・マスクの同盟が危険か問われて、チャンはこう答えた。「今、楽観的になるのは難しい。資本主義の終わりより世界の終わりを想像するほうが簡単だ。というのも資本主義は今のところ、フランス革命以前の王の神授王権と同様に、私たちにとって避けがたいように思われるからだ。何世紀にもわたって、王の終わりよりも世界の終わりを想像する方が簡単だったが、今日、私たちは君主によって統治されて生きていない。王が斬首されるとは誰も想像していなかったし、予測するのは簡単ではなかった。（資本主義の専制も、絶対王政と同様に終わるかもしれないと言っている）私たちは未来を予想したり、予測したりすることがとても苦手です。人間には未来を予測する才能がありません」
・億万長者の存在は、我々を専制君主の時代に巻き戻す心配をさせる。個人に大きな権力が集中すれば、予測不可能になり、もし彼らがある朝左足で起きたら（突然ある日間違ったことになることの慣用句みたいです）多くの損害をもたらす。もし権力がうまく分散されていたら、歯痛のダメージは限定的。（なんで歯痛？よく使われる慣用句なのだろうか）
〝我々を騙しているか、彼ら自身を騙しているかのどちらかだ〟というフレーズが気になりました。
これはちょっと話題をスライドさせても言えることで、例えば日本のAI研究者でAI推進者を兼ねているような人は、どの程度我々を騙しているのか、それとも自分たちで信じ込んでいるのか、わかりません。例えばある人は、30%くらいの確率でAGIが数年以内に出来る、というような言い方をしていました。これは、外れても間違っていたと言われない、あくまで〝期待〟のようなラインです。
AGIの話ではなくとも、そもそも生成AIを推進して利益が出るのか、という感じにしてもそうです。言い換えると、彼らは欠陥商品を売りぬこうとする故意の詐欺師なのか、自分たち自身も信じている信者なのかわからないということです。（自分たちのリソースをかなり投入しているので、後者っぽいです）
それらはやはり極端な呼び方で、やはり期待のような言葉で濁されると思います。
彼らの姿勢をもっと正確に表すと、出来るにせよ出来ないにせよ、とにかく規制すると可能性はゼロだから、規制だけはするな、ということだと思います。（寄生獣のラストみたいでかっこいいですね）（でもこの例えでいうと、変な鉄の棒（我々の著作物）を根こそぎ引っこ抜いても、日本にビッグテックが生まれる未来はくっついてこないです。ただ損害だけが発生します）
彼らは自分たちの信仰を我々に押し付けることすらしません。反技術主義者という異端者としてしまえばいいからです。反知性主義と言う人すらいます。彼らのAGI信仰に対する否定という意味では、彼らと同格の専門家にも異端者がいるにも関わらず。（たとえ世の中の99%が異端者でも、彼らは自分自身の信仰を変えないでしょう）
「我々を騙しているか、彼ら自身を騙しているかのどちらかだ」を、罵倒表現で言い換えると、「こいつらはわざとやっているのか？それとも馬鹿なのか？」となります。何か自分が迷惑を被ったときに、相手がどっちなのか、本気でわからないことがあります。でも大半は後者で、善意すらあるときがあります。前者は、陰謀論的で被害妄想的です。
でもやはりトップ層は頭がいいので、利益のためにわざと我々を欺いているという期待も捨てきれません。悪意3割、馬鹿7割で世界は出来ているという感覚になります。もちろん自分も７割のほうに入ってます。そんな世界で、なんとテッド・チャンは善意の知性なんですね。こういう人が増えるといいです。
陰謀論は、期待と言いました。それはつまり、世の中が「頭のいい悪意によってコントロールされている」状態ならまだマシということです。我々は搾取されるだけで、搾取対象として維持されます。制御不能な馬鹿しかいないとなると、全員が破滅する可能性があります。だから陰謀論は希望なのです。自分がうまくいかないのは何か悪いやつのせいだ、という理屈ではありません。自分が不幸なのはもっと個別の偶然の理由です。世界全体で見たとき、何かに理解され、制御されているかどうかが重要なのです。これが持続可能な吸血という言葉の意味です。グノーシス主義にも似てます。三体星人きてくれーという流れにも似てます。独裁者を求める心理です。
しかしなんと実際は、チャンが言うように、誰も制御方法を理解していないようなのです。こちらのほうが恐ろしい状態です。
暗闇の中の光（rockin onでのレディオヘッド評)とかではなく、暗黒そのものが希望なのです。（この記事のポエムパートです）なぜなら生成AIの未来には灰色ですらないランダムノイズしかないからです。拡散モデルはまずノイズを必要とします。これは従来の雑誌などがやってきた良識ある引用、つまり著作物にモザイクをかけて主要な情報を破壊しながら、それが何であるかのみを伝える引用の逆バージョンです。つまり、それが何であるかの情報が排除されたノイズから、商品価値を持った情報だけを復元する工程です。拡散モデルにおいてランダムノイズとは、起源的な匿名性の捏造に使われます。無から生成したと主張するために使われます。我々個々の人間の固有性を消すために使われます。肖像物をモザイク加工するように後から消すのではなく、そもそも無かったものとするために使われます。「ある種のクリエイティブな職業は、そもそも存在するべきではなかった」
暗黒ではなくノイズという比喩の話をしています。黒塗りは陰謀とその主体を感じますが、ランダムノイズからは責任を確率論的に無意味化する、無限の責任逃れを感じます。これは自動運転車においても使われるテクニックだと思われます。
生成AIのすばらしさについて考えるとき、パターン認識されて抽出された有益な情報ではなく、棄捨された情報に注目すべきです。それは捨ててはいけないラベルであり、記名でした。もちろん注釈の形で記憶されていることもありましたが、ユーザーが検閲しなければならないものとされています。あなた（画像生成AIユーザー）は、著作権ロンダリングマシンの最後のパーツです。それが洗浄しきれなかった著作物をチェックする役割を負っているのです。
LLMも、我々の固有名を消すために使われます。たとえば公募されたパブリックコメントは、LLMで要約された傾向として処理されることになるでしょう。それがLLMを使った民主主義の正体です。ある種の傾向が何割いるかという統計となり、個人の何らかの致命的で特殊な報告は無視されます。機械はある意味において公平ですが、各段階においてその都度人間による選択がなされます。
要するにロンダリング＝洗浄の比喩は正しく、AIの使用者にとって利益となる情報を抽出して、損となる情報をノイズという泡の中に捨て去ってくるということです。チャンは生成AIは資本主義の刃を研ぐ研ぎ器だと言いましたが、拡散モデルは著作権ロンダリングマシーンに入れる洗剤であるという比喩は、私が今考えました。著作権とかいう特権意識の強いクリエイターどものきたねえ既得権益を洗い流すためには、拡散モデルを使いましょう！学習段階と生成段階を分けて、二度洗いするのも重要です。きたねえ既得権益を洗浄した先には、無料で使える共有技術そのものが残ります。これは文化全体から商品を採掘するマイニングです。問題は、その鉱床は自然物ではないので勝手に採掘してはならないとうことです。
ずっと、「人間の学習も同じだよね？」と思いながら読んだ人はオートポイエーシス論を見てください。人間は手洗い式のロンダリングマシンですが、唯一合法なマシンです。なぜなら入出力がないからです。そもそも人間とは、中から著作物が発生する唯一のマシンなので、そもそも洗浄機械ではないのです。機械の原理もですが、作られた目的が違います。
そもそも、ニューラルネットワークだから人間の脳と同じだね、というのが雑すぎて、彼らは突然GANや拡散モデルを無視するので、それはノイマン型コンピュータは中身に関わらず全部同じと言ってるのと同じです。
チャンの資本主義批判、ビッグテック批判は、ヤニス・バルファキスやマーク・フィッシャー感が出てきました。ヤニス・バルファキスも同様に、現在のビッグテックに支配されたSNS農奴という状況をテクノ封建制と呼んでいます。実際の封建制より悪いのは、封建制は地代以上のものを取りませんが、amazonなどはユーザーの取引ごとに割合で手数料を徴収することだという感じのことをyoutubeで言っていました。
生成AIで怒っているのは絵師だけ、という感じですが、実はユーザーも搾取されています。
AI企業はその圧縮データベースを使って生成したコンテンツをそのまま売るのではなく、コンテンツを生成する権利と一緒に責任をユーザーに押し付けることで、自分たちは直接著作権侵害するリスクはありません。もしリスクがないなら、ツールを独占して無限に生成されるコンテンツを販売すればいいわけです。テグマークのLIFE3.0で描かれた、自己成長するAGIのように。現実はあれよりも拙速です。自前のコンテンツを作ることも、安全なツールを作ることも出来なかったから、危険なツールを自己責任で売ることにしたのです。
企業は無料で収集したコンテンツからなるAIを販売し、ユーザーはツールの使用料を払います。
著作者からは情報を、ユーザーからはお金を搾取するシステムです。ユーザーは生成ガチャが持つアヘンのような効果で依存させることができますが、著作者はそうではありません。依存者はむしろ新技術に適応した勝ち組と褒めそやされることで、さらなる快楽を得ます。反対者は時代遅れのラダイティストです。（ユーザーが勝手に戦ってくれるので、AI企業は論戦に参加する必要すらありません）実際はどちらも搾取の被害者であり、受益者はAI企業のみです。（訴訟に負けるまでは）
ニック・ランドとか加速主義界隈のことがダークな思想と言われますが、生成AI推進派からダークさは感じますか。わりと脱色されています。なぜなら彼らには悪意すらないからです。技術自体はすばらしい！を合言葉に、結構良心的な人もそう思っています。トム・ヨークやカズオ・イシグロによるAI批判すら話題に登りません。触れようとすらしません。搾取を学習と言い換えて、自分たちでもそう思い込んでいるのです。なぜこんなすばらしいことが批判されるのかわかっていないという感じです。