タチコマから考えるひとの心
攻殻機動隊 STAND ALONE COMPLEXの第15話「機械たちの時間」が非常に興味深かったため、感想を交えつつセリフの文字起こしをしたいと思う。(なんと一年以上も下書きのままだった！)攻殻機動隊の世界観等の説明は、他サイトに預けたい。
あらすじ
公安9課が保有する思考戦車タチコマ（AIの搭載されたロボット）が個性を持ち始めたことに草薙は懸念を抱き始めていた。第15話は同じく公安9課に所属するサイトーが『狙撃潜入システム一体型ヘリ』という試作機のシミュレーションを行うところから始まる。サイトーはシステムからの干渉を受けるという理由で9課へこの試作機を導入することを否定している。この試作機は報告会にかけられた後、運が良ければラボへ、悪ければ廃棄処分になる運命だそう。タチコマたちは草薙が自分たちに懸念を抱いていることに感づいており（懸念の内容まではわかっていない）、もしや自分たちも廃棄処分になり得るのではないかという思考に至った。
本編
さて、ここからは個性を持ち始めたタチコマたちに焦点が当てられる。
タチコマ１「”サイボーグ”っていう言葉が問題になってるって聞いた？義体化した人に対する差別語だって」
タチコマ２「それは反動保守の自然主義者の話でしょうが。今のご時世、電脳化にも義体化にも反対なんてどういうつもりなんだろう」
タチコマ１「外的な部品を体内に入れると、ロボットと人間の境界を侵犯される気がするんだろうね。まあ気持ちはわかるけど」
タチコマ３「ヤダヤダ、そういう屈折したラッダイト精神！」
「反動保守の自然主義者」なんて言葉をロボットが口にするのである。（反動保守の自然主義者とは、頑なに義体化や電脳化を拒み、イノベーションに対して否定的な立場の人間のことだろう。）この短い会話だけでも高度な言語処理能力がうかがえる。またタチコマ2の発言から、タチコマたちはその時代に支配的な価値観を有しており、相対的に物事を判断していることがわかる。さらに歴史上の出来事を理解して会話に取り入れるという教養も見てとれる。作中でタチコマたちはゴーストのない存在として扱われているが、以上のようなやりとりはゴーストのない存在に可能なのだろうか。（哲学的ゾンビの命題を思わせる。）理解とは何か、記号はいつ意味と結びつくのか。
先ほどの試作機は報告会が終わるまでの間、人間の女性型オペレータロボに預けられた。（オペレータロボは何故女性型なのだろう。）タチコマたちは試作機に興味を示し、それに接続するためにオペレータロボを出し抜く。
タチコマ１「なんにもしないってば」
オペレータ「そんな口先のウソは通用しませんよ！」
タチコマ１「そうだよ、僕はウソしかつかない。本当のことは何一つ言わないんだ。」
タチコマ３「さて、今のセリフが本当なら彼は今真実を語ってしまった。もし今のセリフもウソなら彼はふだんから真実も語ることになる。この矛盾をどう処理する？」
オペレータロボはこの質問に答えられず、システムを停止してしまう。
タチコマ３「ちょろいなぁ、自己言及のパラドクスをクリアできない奴って」
オペレータロボも自然言語処理は可能なようだが、機能が制限されているらしい。タチコマはAIの中でもかなり上位の存在のようだ。（兵器だしそれはそう。）オペレータを出し抜くにはなかなかユニークな方法だとは思うが、実際には自然言語処理が可能なレベルのAIならこのような有名なパラドクスは既に学習しているか、あるいはデータベースを検索することで処理できそうなものである。修正されていないオペレーターの脆弱性なのかもしれない。
無事に試作機に接続したタチコマは、サイトーが導入を否定した理由を悟りここであらすじの内容に戻る。
タチコマ５「廃棄処分て死ぬのと同じなの？」
タチコマ１「うーん、僕たちの経験可能領域には”死”ってない項目だからそれは何とも...」
「経験可能領域に”死”という項目がない」のは、彼ら同様に人間でも同じではないかと私は考えている。
「死は人生の出来事ではない。ひとは死を体験しない。」––––ウィトゲンシュタイン『論理哲学論考』6・4311
タチコマ３「ゴーストを持たない僕たちAIの限界ってやつだな。所詮半不死。生きてないから死ねもしないと」
タチコマ１「やっぱり僕たちにゴーストがないってことがいろいろ問題を引き起こしてるんだよ」
タチコマ６「廃棄処分イコール死ぬっていうことじゃないでしょ。物理的身体とゴーストが過不足なく一致する時代はもう終わったんだし...。まあ極端な話、体のないデータの集積がゴーストを宿す可能性だって無くはない」
ちなみにこのタチコマ６は、他のタチコマたちとは少し離れた場所で本を読みながら会話に参加するでもなく意見を述べている。タチコマの個性化が確認できるシーンでもある。「物理的身体とゴーストが過不足なく一致する時代が終わった」というのは義体化や電脳化が一般的になり、ゴーストを持つ人間が必ずしも生身ではなくなったことを指しているのだろう。物理的身体とゴーストが一致している時代では、身体の死がその生命の死に直結する。ところが義体化や電脳化によって身体的な死は必ずしもその生命の死に直結するわけではなくなった。またタチコマたちAIの本体はプログラムであり、彼らの身体が破壊されてもプログラムが失われない限り彼らは存在する。つまり、逆に言えばプログラムが失われればゴーストを持たないタチコマでも死ぬことはできるのかもしれない。（自我をもつAIの死を「プログラムの実行を停止し初期化したとき」と考えることもできるが、再起動されるのは全く同一のプログラムである。これを指して半不死ということはできるだろう。）そもそもタチコマは人間の”生命”という言葉の条件に自分たちが該当しないということを言っているのだろうけれど。
「生きてないから死ねもしない」とタチコマ3は言う。
タチコマ4「キミは”生きる”ってどういうことだと思う？」
タチコマ6「うーんそうねえ。”生命”って言葉の定義自体が流動的だからな。ロボットに接することで人間にとっての生命のイメージが無意識のうちに変わってきてるんだよ。たぶんね、変化してるのはロボットではなくむしろ人間の方でしょ」
上で述べたように、義体化や電脳化が一般的になった世界では身体的な死は必ずしもゴーストの死につながらなくなった。そのような事情を背景にして、今まで身体的な死がゴーストの死と同義であった人間にとって、"生命"という言葉の定義は揺るがされ曖昧になった。ロボットは人間とコミュニケーションを取れるまでに発達したが、あくまでも技術としてのコミュニケーション能力が獲得されただけである。ロボットが生きているという感覚は、人間にとっての生命のイメージが変化した事でおこる人間の幻想にすぎない。タチコマ6は、ロボットは今も昔もただロボットであり続けていると言いたかったのではないだろうか。
一方でこのタチコマ6は「体のないデータの集積がゴーストを宿す可能性だって無くはない」とAIがゴーストを持つ可能性について言及しているが、後に身体と意識は不可分であるかもしれないという趣旨の考察もしているため、人間という現象について確信できる考えは持っていないようである。
シーンが変わってタチコマ1がバトーの射撃訓練に付き合わされる。タチコマ1はバトーに、「最近個性を獲得した」と話す。
タチコマ１「何だか前にはよく分かんなかった神ってやつの存在も、近頃はなんとなくわかる気がしてきたんだ。もしかしたらだけどさ、数字の”ゼロ”に似た概念なんじゃないかなって。要するに、体系を体系たらしめるために要請される意味の不在を否定する記号なんだよ。そのアナログなのが”神”でデジタルなのが”ゼロ”。どうかな？」
"意味の不在を否定する記号"と言われると難しいが、"神が世界に意味をもたらす"と言い換えるとなんとなく聞き慣れた感じがする。アナログとデジタルをもう少し直感的な言葉に置き換えると、連続と離散である。
「でね、僕たちって基本的な構造がデジタルなわけじゃない。だから、僕たちがいくら情報を集積していっても今のところゴーストは宿らない。でも、基本がアナログベースなバトーさんたち（人間）は、電脳化したり義体化してデジタルな要素を増やしていってもゴーストが損なわれることはない。しかも、ゴーストがあるから死ぬこともできる。いいよねえ。ねえねえ、ゴーストがあるってどんな気分？」
ゴースト、つまり心はきっとアナログなものなのだ。ロボットがどれだけ情報を集積しても、その一つ一つは離散的なもので、有限の時間内では連続な情報になり得ない。
機械学習に対して、人間が物事を一般化する能力には驚くべきものがある。人間はどのように事象を捉え、概念を形成しているのか。このような問いは私の中で、ウィトゲンシュタインの『哲学探究』で考察された内容とリンクする。（ウィトゲンシュタインが何を言っているのかは理解できないけれども。）私は、人間の抽象化能力の高さは言語に裏付けられているのではないかと思う。言語はゴーストの形成にも影響を与えるだろうか。
世界を記述するための完全な言語が存在すれば、機械は概念を獲得しゴーストを形成し得るのではないだろうか。しかし、言語だけではゴーストを持つことはできないだろう。タチコマたちのように具体的身体を伴うコミュニケーションが、ゴーストを持つ存在の鍵なのではないかと考える。さらに、ゴーストは一個体ではきっと形成しえない。大なり小なり社会に所属し、社会への影響と社会からの影響のダイナミクスから生じる現象がゴーストなのではないか。言語は初めにあるのではなく、そのダイナミクスの過程で生まれる記号であり、それ故に不完全なのかもしれない。（そうであるならば、機械が心を獲得していくためには、複数の機械同士があるコミュニケーションのなかで自ずから言語を獲得していくことが必要なのではないか。）
すなわち個人の心とは、「個人と社会の相互的な関係の中で再帰的に作り出される複雑系の、ある具体的身体による写像」であると私は考える。
走り書きでまとまりのない文章になってしまったが、下書きに眠らせておくよりは良いだろう。
参考にした本
・脳のなかの自己と他者: 身体性・社会性の認知脳科学と哲学 (越境する認知科学)、日本認知科学会
・自由からの逃走、エーリッヒ・フロム
・心はすべて数学である、津田一郎
・論理哲学論考、ウィトゲンシュタイン
・哲学探究、ウィトゲンシュタイン
この記事が気に入ったらサポートをしてみませんか？