季節の変わり目・ChatGPT・下西風澄「生まれ消える心─傷・データ・過去」

桜がほぼ散り終わるこの季節、近年はなんだか毎年そわそわしている。新型コロナウイルス、ウクライナ戦争。自分の予見可能性のスコープに入っていなかった何かが起こって、迫り来る地殻変動を感じる。This may change everything。本当に？　日々、手元のスマホでの情報漁りが止まらない。

今年「襲来」したのは、ChatGPTだった。対話型大規模言語モデル（LLM）が明らかに何らかの閾値を超えた。これが自分の暮らしをどう変えることになるか、皆、固唾をのんでいる。Early adopterたちの「この船に乗れ」とのかけ声も喧しい。

新しい技術を受け入れるとき、人はアナロジーに頼る。知っている何かとの類推でしか、それを理解できないからだ。ダグラス・ホフスタッターさんは共著書”Surfaces and Essences”で、かつてコンピューターの普及とともに無数の日常用語がPC用語「ウィンドウ」「ブラウザ」「ページ」「ファイル」に転じた事例を収集してみせている。

LLMについてはまだアナロジーが定まっていない。そこが面白い。安易な擬人化に対抗すべく「確率論的なオウム」や「ぼやけたJPEG」といった工夫を凝らした比喩が繰り出す人がいる。一方で、LLMは「幻覚（hallucination）」を見るといったもろ擬人化した言い方が、半ば専門用語にもなっている。かと思えば、OpenAIのAltman氏は同社のプロダクトは人間を助けるツールであり、heでもsheでもなく「it」であると語った。

人のようだが、人らしくない。
自分の戦闘力を高めてくれるパワースーツのようでもあり、かといって使ってしまったら失われる何かがありそうな気もする。
What is this thing called ChatGPT?

こういうときに人文学が本領を発揮する。下西風澄さんの最近の論考、「生まれ消える心 ─ 傷・データ・過去」（『新潮』2023.5所収）を読んでそれを痛感した。

下西さんは、ChatGPTと人との相違を「過去」の持ち方の違いに見る。個別の人生の履歴をもつ私たちと違い、ChatGPTは単一の、大規模とはいえある地域・時代のテキストデータとしての過去しかもたない。人間にとっての過去とは「現在にまとわりついてくる「傷」」であるのに対し、AIがもつのはいつでも消すことができる、「忘却可能な過去」（※）に過ぎない。

※ここは、忘却こそが人間的な記憶の一つの特性である（機械は忘れない）という議論もあり、興味深いところ。「忘却」は人間的な記憶の方にとっておいて、「消去可能な過去」という言い方のほうが個人的には好みかもしれない。

下西さんは近著『生成と消滅の精神史』で、3000年にわたる人間の「心」の歴史的な変遷を描いた。ここでそのあらましを説明することは到底できないけれど、強くて不滅の心を追い求めた西洋の精神史がもたらした、過剰な心への役割に耐えきれなくなってきた人間が、心の「アウトソース」を希求するなかでつくられてきたのが人工知能であるという見取り図が、この本では描かれている。

強くて無傷な心を求めてつくったAIに対峙する、本当は傷にまみれた弱い私たち。今後、一日何時間も向き合うことになるかもしれない対話型AIと私たちとの相互作用の本質の一つが、射貫かれているように思う。

二つほど、今後の技術的進展に関する問いが思い浮かんだ。

1．固有の過去をもち「傷つくAI」が実現する可能性はあるだろうか？
論考の中で書かれているように、今のChatGPTのつくられ方からすると難しそうだ。しかし、それでも何らかの「個性」をもたせたり、ユーザーとの相互作用の履歴を刻み込めるシステムの開発が進むことは想像できる。カズオ・イシグロ『クララとお日様』では、下西論考のいう「傷としての過去」を持ちうる存在として主人公のロボットが描かれていた。これは現実にはAIには不可能だからこそ物語の設定として際立つのかもしれないが、そういう人工物をつくれないという証拠もない。

2．ニューロテクノロジーは「傷としての過去」から逃れる手段になりうるのだろうか？
逆に、人間が本来逃れられないはずの「傷」を消そうとする人たちも出てくるだろう。実際、PTSDの治療や「嫌な記憶を消す」といった目的で脳に働きかけるニューロテクノロジーの開発は、下西著でいう「強い心」を希求する方向性の営みと言えそうだ。

いいか悪いかは別として、AIを人間に、人間をAIに近づけようとする野望はこれからも加速していく。では、自分はどうするか。それを考えるスタート地点に、この短くも鋭い論考は立たせてくれる。