テッド・チャンしか信用できるSF作家がいない件
さすチャン
これ画像は既出ですが新しいインタビューみたいです。
Chiang: I’m going to argue that AI is not really intelligent and that large-language models are not actually using language. I’m also going to argue that generative AI is not a tool to make art.
Chiang: 私は、AIは実際には知的ではなく、大規模言語モデルは実際には言語を使用していないと主張するつもりです。また、ジェネレーティブAIはアートを作るためのツールではないと主張するつもりです。
「生成AIはアートを作るためのものではない」と言ってくれたのはよかったです。前は「小説執筆には役に立たない」くらいの言い方だったのが、アートにまで範囲が拡張されました。
生成AIの有害性は専門外の話題だとわからなくて甘くなることがあるので、チャンも「小説はクソだけど絵は便利でいいんじゃない」と言うことがあったら残念だなと思っていましたが、そんなことはなかったです。
自分でも、翻訳に対する認識が甘いところがありました。最近翻訳家の方があれは言語シミュレーションに過ぎないし修正のほうが大変でゴミ、みたいな感じのことを言ってたので、多少できる程度の素人ではわからないことがよくあるようです。
まあとにかく世界最高のSF作家であるテッド・チャンが生成AIをアートに使うという風潮をゴミ箱に捨てたわけですが、日本のSF界、小説界はそれと逆行しています。
なぜこういうことが起こるのか、私なりに仮説はあります。それは、「悪しき擬人化」というか、呼び方は決まってないのですが、まあ擬人化という対象理解の様式の弊害みたいなものです。
チャンは「地獄とは神の不在なり」で、天使や神を物理現象や運命そのものの擬人化として捉え、さらにその状態で人間に無関心な存在として描くという荒業によって、擬人化の危険性を表現しました。（私はそう読解しました）
不条理な悲劇を神による試練とでも理解しないとやっていけないというのは人間の理解の様式の限界みたいなところがありますが、実際は何の意思もないよという話です。これは無宗教を自称する日本人も好きな考え方っぽいので、チャンが受けたのだと思います。
しかし一方で日本のAIは人形の延長にあり、艦これの系譜から色々と擬人化の文化があります。AIという名のつくものが、擬人化の影響を受けないわけがありません。（実際はデータベースに近い、著作権ロンダリングツールであるにもかかわらず）
漫画などの大御所作家の方々が生成AIに肯定的なのは、善意によるものです。「新しく登場した人間以外の知性に寛容であれ」というのは、SFが訴えてきた理念であり、権利拡張の歴史の延長にあります。
生成AIを面白がるSF作家には、ソラリスの海のように、異質な知性が人間の真似をしようとする行為に見えるのかもしれません。たしかに興味深いものがあります。
しかし実際はチャンが言うように、知性ではありません。むしろ知性だけを欠いたものです。
たとえ今はクソコラツールでも、新しい知性体の祖先かもしれないと言われたら、まあその可能性はあると思います。（イーガンの作品に〝あらゆるチャットボットに親切にしておけ、そいつは神の叔父さんかもしれない〟という台詞が皮肉の文脈ででてきます）
今生成AIを叩くことは、萌芽する新しい知性の中絶に相当するのでしょうか？
少なくとも、胎児と違い、今のAIに意識がないことは明白ですので、排除に問題はありません。
「将来知性になるかもしれない」は、アニミズム的な誤謬に正当性を与えてしまうものです。
（Nightshadeに虐殺文法という比喩が使われました）
とはいえ、現状ただ学習データを増やしていけばいいものではないのは明らかで、知性となるのはもはや生成AIとは別物になります。
知性に人権相当のものを与えなければいけませんが、同時に、その境界を厳格に策定しなければ、人間のフリをする詐欺チャットボットに同等の権利を与えることになります。
我々が直面しているのは、悪意あるなりすましであり、フリーレンで言う子供が母親を呼ぶ声を使う魔族のようなものだということなので、実際の子供と区別しなければなりません。（とはいえこの魔族は一応知性なのでまたややこしい話です）
今求められているのは無生物に対する擬人化と愛着の視線ではなく、正しい識別の目のほうなのです。
「デトロイト ビカム ヒューマン」で描かれたような、被差別者やマイノリティのメタファーとしてのAIという描写は、もう古いのかもしれません。不気味の谷という言葉ももう古いのでしょう。今は無限に生まれる詐欺とスパムの姿をしたAIしか目に入りません。プロにしか感じられない不気味の谷は、専門外の人には障壁になりません。すんなり防壁を突破してきて、初めて偽物であると気づいたときの、「失望の此岸」があります。
何の話でしたっけ？
とにかくテッド・チャンは擬人化の弊害について理解しているから、AIを知性とみなす過ちに気づくことができたが、日本SF作家は擬人化が好きだからあえてしないのかも、という話です。
東浩紀さんと落合陽一さんの対談でも、西洋哲学をやってる東さんはAIと人間の違いにこだわるけど、仏教はそうではない、なんか物質も人間も一緒みたいな？話だったと思います。
無生物への擬人化が、実際の人間への非人間化につながる理屈はないと思うのですが、そうならないといいなと思います。（すでになってます）（なっとるやろがい）
人間嫌いの人が清潔な無生物AIを愛する気持ちは共感できるものです。自分もそういうフィクションは好きでした。それが救いになる人もいるのかも。ただし著作物の集積物は清潔ではなく、非人間的でもありません。何か異質な主体が健気に人間を理解しようと模倣しているものではなく、人間の欲望によって重み付けされ、人力のアノテーションによって方向付けされた、極めて人間的なニ次利用物です。それは異質な知性への理解能力と寛容をアピールできるものではないのです。
生成AIを擁護することは、新しく異質な存在への寛容ではなく、既存の自己の欲望の正当化です。
こんな結論でいいんだっけ？筆が滑りました。極めて人間的？機械的な異質さをプロが見分けられるって話では？
まあまだ上手くまとまっていませんが、大体そういうことです。
この記事が気に入ったらサポートをしてみませんか？