意識の密室と別れる50の方法
瀬名秀明『デカルトの密室』講義
「SFが読みたい! 2006年版」収録
瀬名さんとは彼が「パラサイトイブ」でデビューした当時に、ネットで相当にやりあったことがある。まだ掲示板創成期でブログは存在しなかった。僕の掲示板はセキュリティもへったくれもなく、シェルスクリプトで実装したものだった。牧歌的な時代だったけれども、瀬名さんとは激しい論争をした。
問題は「パラサイトイブ」がミトコンドリアを擬人化しているかどうかだった。瀬名さんは擬人化しないように細心の注意を払って書いたのだと主張した。うん、わかる。それは本格ミステリーのやり方だ。クリスティだ。「獄門島」で「気ちがいじゃが仕方がない」と書いてもなぜアンフェアではないのか、だ。
瀬名さんは本格ミステリー的な「フェアネス」でもってSFホラーを書いた。読者はSFホラーとしてのコードで読んだ。そう、ジャンル・フィクションにはコードがあって、読者はそのコードを前提にして作品を読む。作者と読者が違うコードに従っていると齟齬が生じる。それが不幸な形で起きたのが「パラサイトイブ」だった。
それに対して、「デカルトの密室」は読者も本格ミステリーのコードを念頭に置いて読む作品だ。瀬名さんは本質的に本格ミステリーの人だと思う。だからこの作品は成功した。ジャンル・フィクションではコードが重要なのだと都筑道夫も言ったのではなかっただろうか。
この文章は「SFが読みたい2006年版」のために書いたかなり長編の評論だ。自分でも力作だと思っている。
......
意識の密室と別れる50の方法
フレーム問題の生じる過程をロボットの一人称で描く。僕がまずびっくりしたのはその点だった。この小説はすごいかもしれない。
あらすじはこんな感じ。ケンイチは人工知能研究者・祐輔に作られ、心理学者・玲奈に育てられたロボットだ。祐輔は人工知能の国際会議で、死んだと思われていた天才的研究者フランシーヌと再会する。会議のさなか、祐輔はどことも知れない部屋に囚われる。祐輔を救出しようとしたケンイチは祐輔のニセモノを見せられて混乱し、研究者たちの目前でフランシーヌを射殺、フレーム問題を引き起こして行動不能に陥る。一方、フランシーヌが死の前にインターネットに解き放ったプログラムがネット上で増殖・進化し、ついには言語能力を獲得するにいたる。フランシーヌの意識が脳と肉体を離れてネット上に出現したのか。さらに、フランシーヌの庇護者であり、彼女を模したロボット「擬体エージェント」を世界中で売り出そうとしていた青木が奇妙な家の中で擬体エージェントに殺されるという事件が起きる。その謎を追ってメルボルンに飛んだ祐輔たちは、フランシーヌの娘とその父に捕らえられる。フランシーヌは娘を心理的に自分と同じ人格に育てあげていた。フランシーヌは様々な方法で自分の意識を解放しようとしていたのだ。しかし、フランシーヌの真の望みは、祐輔が描く「物語」の中に自分の意識を解き放つことだった。すべてがフランシーヌの筋書き通りに進む中で、ひとりケンイチだけは、ロボットとして祐輔たちのもとに留まることを「自由意志」によって選択する。街にはフランシーヌの擬体エージェントがあふれ出していた。
なんと「過剰」な物語だろう。この『デカルトの密室』には以前の『Brain Valley』に負けず劣らず、たぶん密度で言えばそれ以上に多くのアイデアが詰め込まれている。僕自身、全貌を掴んだとはとても言えないのだけど、なんとかがんばって、物語の流れに沿いつつキーワードを拾っていこう。新潮社のウェブサイトには瀬名自身による「講義」が掲載されているので、それも参照してほしい。というより、参照しないとわからない。
そもそも『デカルトの密室』とは何か。十七世紀の哲学者デカルトは、心と身体は別であるとする心身二元論を唱え、心と身体が出会う場所として松果体を想定した。現代の哲学者デネットは、大著『解明される意識』の中でこの場所を「デカルト(カルテジアン)劇場」と呼ぴ、そのようなものはあり得ないと強く批判している。では、心をあくまでも身体の機能のひとつと考える「唯物論」の立場ならいいのだろうか。実はデネットの批判はさらに厳しい。唯物論を名乗る理論もその多くが暗に「デカルト劇場」を仮定しているというのだ。脳のどこかに「心を観察する中心」があると想定するかぎり、「デカルト劇場」から逃れていないとデネットは主張する。心が閉じ込められているその場所が「デカルトの密室」だ。いかにしてこの密室から「意識」を解放するかが、この作品のテーマである。
物語はケンイチが一人称で語るプロローグで幕を開ける。いや、形式的にはたしかにそうなのだが、なんとここでケンイチは、祐輔がケンイチの一人称を借りて物語を綴るのだと述べている。では、このひとり語りはケンイチ自身が自分の気持ちを語っているのだろうか、それともこれはすでに祐輔が書く物語の一部で、彼がケンイチの気持ちを推測して語っているのだろうか。僕たちは冒頭から叙述の迷宮へと導かれる。ＳＦに叙述トリックを持ち込むことには抵抗をおぼえる読者もいるかもしれない。しかし、ロボットの意識を内面から描くという企てを真摯に実行に移そうとするなら、必然的に叙述の問題を引き起こすはずなのだ。そう、形式はテーマが選ぶ。
続いて、映画『2001年宇宙の旅』のチェスシーンを見る場面。このチェスシーンでキューブリックはひとつのミスをおかしている。グランドマスターのエヴァンスによってそのミスが指摘されたのは、映画公開から実に２０年以上経ってからのことだったという。ところが、ケンイチはそれを即座に見抜いてしまう。ケンイチは非常に優秀な知性を持ち、ほとんど人間と区別がつかないように思えるが、逆に優秀すぎる能力を示すことによって、知性の質が人間とは違うことを露呈するのだ。この場面で僕たちは、ケンイチの人工知能がチューリングテストを突破できないものであることを知る。
計算機科学の生みの親チューリングは、機械に知性があるかどうかを判定する方法として、ひとつのテストを提案した。そのテストでは、審査員がテレタイプを使って人工知能(かどうか、審査員は知らされていない)と会話を行なう。会話の相手が人間なのか機械なのかを審査員が判定できなければ、その人工知能は事実上「知性」を持つと言っていいではないか、というのだ。これは知性とはなにかという定義を回避している点で優れたアイデアだが、もちろん異論も多い。しかし、このチューリング・テストの概念が人工知能研究に与えた影響は大きい。『2001年』を題材としたエッセイ集『ＨＡＬ伝説』の中でカックはエイリアン・チューリング・テストと称する一種の反チューリング・テストを提案している。これは「人間やエイリアンは高性能コンピュータと同じことができるか」を問うテストなのだという。そして、『デカルトの密室』ではこれをさらにひねった新手の反チューリング・テストが描かれる。人間と人工知能が「人工知能らしさ」を競うというものだ。考えてみると、チューリング・テストと反チューリング・テストは対称的ではない。人工知能らしさはそのときどきでの人工知能の性能によって移り変わるはずの概念だから、「人工知能らしさ」とは「人間らしくなさ」と同じではないのだ。物語中の反チューリング・テストは、審査員が疑心暗鬼をつのらせた結果、人工知能どころか人工無能を模倣しただけの反応すらすぐには見抜けなかったという強烈なオチで終わり、いったい「人工知能らしさ」とはどんなことを指すのかという疑問の答は読者に委ねられる。
この反チューリング・テストを提案して他の人工知能学者たちを翻弄するのが、「心の理論」を持たないフランシーヌだ。「心の理論」とは相手の心の状態を推測する能力のことである。これは、チンパンジーが他の個体を「あざむく」ような行動をとることを観察したプレマックとウッドラフによって提唱された。「心の理論」は生まれつき身につけているものではなく、人間の場合は幼児期に獲得して次第に発達する。たとえば、物語の登場人物がどういう意図を持って行動しているかを推測するにはこの「心の理論」が必要で、実際、幼児にはこれができない。また、他人が自分のことをどう考えているかを推測するという高次の推測能力を身につけるには、さらに経験を積まなくてはならない。当然、ロボットに「心の理論」を持たせられるかどうかは大きな問題なのだが、ケンイチの場合はどうか。これはケンイチの再起動場面に描かれている。この作品を「ロボット工学もの」として読むとき、起動シーケンスがこと細かに描かれたこの場面はとても重要だ。ただし、実は「心の理論」は『発生』のひと言で動き出してしまうので、ちょっと拍子抜けするのだが。いずれにしても、ケンイチは「心の理論」を持つロボットなのだ。感情移入能力のない人間はアンドロイドであると看破したのはＰ・Ｋ・ディックだが、その意味でケンイチとフランシスの物語は『あなたを合成します』の再話である。
先を急ぎすぎたので、少し戻ろう。次のキーワードは代表的なチューリング・テスト批判として知られる「中国語の部屋」だが、この物語の中ではメタファーの域を出ない。むしろ、祐輔が「中国語の部屋」に閉じ込められる場面にはクイーンの有名な中篇と同じトリックが使われていることを指摘するべきかもしれない。実際、クイーンはこの物語の中にさまざまな形で引用される重要なモチーフのひとつである。
そして、ケンイチがフランシーヌを射殺してフレーム問題を引き起こすという最初の山場が訪れる。フレーム問題はロボットの知能を考える際に避けては通れない難しい問題だ。たとえば、『お皿を持ってきて』と頼まれれば、人間ならなんの問題もなく皿を持っていくことができる。では、同じことをロボットに頼むにはどうすればいいだろうか。もしかしたら、皿はたくさん重ねて置いてあるかもしれない。その場合は一番上を持ち上げなければ、他の皿が割れてしまうだろう。もし、さらにその上にコップがあれば、一番上の皿より先にコップをどけなくてはならない。すべての可能性を列挙して命令するのは不可能だから、『他のものを壊さないように』という条件をつけてみよう。すると、もっと大変なことが起きる。皿を持ち上げることによってあらゆる「他のもの」が壊れないことを検討しなくてはならないからだ。しかし、「他のもの」は無数にあるではないか。つまり、現在の目的にとって大切なことと大切でないこととが区別できないとしたら、大切ではない無数のことを考え続けるためだけに膨大な時間を費やしてしまい、まったく動けなくなるはずだ。こうしてロボットが「途方に暮れて」立ち往生するのがフレーム問題である。純粋に論理だけでは、このフレーム問題は解決できないだろう。最初に書いたように、このフレーム問題にいたる過程が一人称で描かれていることに驚いたのは僕だけではないと思う。ちなみに、やはり『ＨＡＬ伝説』に収録されたウィルキンスのエッセイによれば、ロボットに人間を射殺させようとすると「イェール発砲問題」と呼ばれるフレーム問題を引き起こすらしい。しかし、ケンイチは「射殺後」にフレーム問題に陥ったのだから、「イェール発砲問題」には抵触しなかったことになる。
では、普段のケンイチはどうやってフレーム問題を回避していたのだろうか。祐輔が「相手を思いやること」をケンイチに教える場面がある。『相手によって少しずつ振る舞い方は変えなければならない』と祐輔は言う。これがなぜフレーム問題を引き起こさないのか。祐輔はそのような行動を「よいこと」なのだとケンイチに説いた。この言葉によって、つまり論理ではなく倫理によってフレーム問題を棚上げにしたのだ。こんなことが現実に可能とは思えないが、論理で手に負えないものは倫理でしか解決できないかもしれない。
さて、後半、物語のテーマはフランシーヌがいかにして「デカルトの密室」から意識を解放しようとしたかについての議論に移ってゆく。
人工知能に対するひとつの立場にコネクショニズムがある。単純な計算素子を多数結合した「人工神経回路網」を作れば、そのネットワークが行なう「計算」によって脳と同様の認知が実現できるのではないかという「期待」である。しかし、単純なネットワークが自意識を持てるのだろうか。そこでフランシーヌが目をつけたのがネットワークの構造だ。９８年にストロガッツとワッツがスモールワールド・ネットワークという概念を発表し、続いてバラバシのグループがスケールフリー・ネットワークを提唱して以降、さまざまなネットワークの構造が議論されてきた。スモールワールドは「地球上のどの人間同士も６人の知人を介せばつなげられる」と標語的に言い表されている。遺伝子が互いに制御しあう「制御関係」のネットワークからＷＷＷのリンク関係まで、現実のネットワークの多くはスモールワールド性だけではなくスケールフリー性を持つ。スケールフリーとは特定の尺度をもたないことで、たとえばＷＷＷなら、リンク数がひと桁のページが膨大にある一方、千を超えるリンクを持つページも少数存在するといった意味になる。さて、ストロガッツの著書『ＳＹＮＣ』には、意識とはニューロンの「同期」かもしれないという推測が紹介されている。フランシーヌが目論んだのは、インターネットの中にこの同期を実現し、それによって自分の意識をネット上に解放することだった。スケールフリー性がここでどういう意味を持つのか、実はよくわからないのだが、インターネットがスケールフリー性を保ったまま成長し続けるなら、そこに生じた意識にとって閉じた「デカルト劇場」など存在しないということだろうか。
一方、メルボルンでの祐輔たちは、心は脳と身体の二重密室に閉じ込められているだけでなく、さらにその外側にある宇宙という密室にも閉じこめられているのだという形而上学的な議論を展開してゆく。ここで、「宇宙という密室」と一体化することによって「デカルトの密室」を抜け出せるという考えが提出されるのだが、これはどうも唐突。実はこの話は『心と脳の正体に迫る』と題された瀬名と天外伺朗の対談本で詳しく議論されている。天外は技術者としては優秀だが、科学についてはニューサイエンス寄りの思想を持つ神秘主義者である（作中、天外をモデルにした人物も登場する）。「宇宙という密室」の問題に関しては、この対談を読んでかなり興ざめしてしまったことを告白しておく。
しかし、フランシーヌの真の目的は「物語」の中に自意識を解放することだった。心を脳が生み出す「物語」と捉えるなら、いっそ自分が物語の一部になってしまうことによって、脳と身体の制約から逃れられるのではないか。それまでも『指輪物語』の引用を通して、「物語」の持つ力が繰り返し強調されてきたが、その意図がここで明らかになる。この段階にいたってこの小説は完全にメタフィクションになってしまうので、賛否両論分かれるとは思うのだけど、僕はここに山田正紀が傑作『エイダ』の中で「物語だけが光速を超える」と宣言したのとパラレルな精神を読みとりたい。作中でもっとも刺激的な場面だ。
ところで、僕はフレーム問題が一人称で描かれていると書いた。その一方で、叙述の迷宮とも書いた。本当にフレーム問題がケンイチ自身の言葉でで描写されたのかどうか、実は僕には断言できない。ヒントはいくつか散りばめられていそうなのだけど、結局最後まで明確にはされていないと思う。解釈は読者の自由意志に委ねられるのだろう。そして、そこから新たな「ロボット小説」への道が開けていくのだと思う。
.....
今日は王菲(フェイ・ウォン)の「半途而廢」を。
https://youtu.be/TxJIi_NOR54
この記事が気に入ったらサポートをしてみませんか？