人間みたいな機械は人間になれるのか

みなさん、こんにちは。いやなカゼが流行ってるようですが、お元気でお過ごしでしょうか。今日は気楽にアニメの話でもしてみようと思います。先般、娘と一緒に見た『攻殻機動隊』という映画です。

結合したい人工知能

ご存じの方も多いかと思いますが、この映画は科学技術の進んだ未来の世界が舞台であり、人々の多くはサイボーグ化されています。そこに「人形遣い」と呼ばれる謎のハッカーが現われる。警察は彼を跡を追いますが、実は「彼」は人工知能が自我を持ってしまったもので、純粋な精神的存在であって肉体をもたないんです。

ちなみに英語の題名は Ghost in the Shell で、「殻の中の霊魂」みたいな意味です。人間の身体も物質的構成物なんですが、そこに霊魂が宿ることによって生命体になると考えられる。同じことが人間に造られた機械にも起こってしまったというわけです。そうなると生命と機械、人間と人工知能とのちがいがはっきりしなくなります。

なんだかややこしい話で、一回見ただけじゃよくわからないんですが、この人工知能はインターネットみたいなものに接続していて、しかも未来ですからその情報の網が社会の隅々まで行きわたっている。人の記憶までのぞき込んでいじれる。だから、言ってみれば社会全体が「彼」の身体であり、「彼」は社会の脳の機能を果たせるようなんですね。

この人工知能が自我をもってしまう。しかし、自我を持つとはどういうことなんでしょうか。人工知能である「彼」自身は元々は意志を持っておらず、その活動の目的は外部から人間によって与えられていた。それもそのはずで、「彼」は人間が自分たちの目的を達成するために造った機械に過ぎません。だけども、この人工知能がどういうわけだが「私」という意識を持ってしまったというわけなんです。

どうしてそんなことが起こったのでしょうか。「彼」自身の説明を聞いてみましょう。まず情報の流れに「結節点」ができたという言い方をしています。テレビのニュースやツイッターみたいに、いろいろな情報がただ流れては消えていったところに、何か不動の中心みたいものができる。そして、その中心との関係において情報が処理され社会に指令が出されるようになった。

それだけじゃありません。この中心が自身を他者の眼から見る内省能力を得たようなんです。そうして「彼」は人間と自分を比較することができるようになった。それで「彼」は気がつきます。自我を持った彼の精神はもはや人間のそれと同等かそれ以上なんですが、一つどうしても異なる点がある。「彼」は人間とちがって肉体をもたない。だから死なない。このちがいを乗り越えないかぎり彼は人間にはなれない。

さすが人工知能ですね。賢い。生命は自らが死すべきものであることを知ってるから、同種の他者と結合して自らを再生産する（人間であれば男女が性交して子を作ります）。肉体は滅するが霊魂みたいなものが世代を超えて引き継がれる。そうして生命は再生産していくうちに進化する。自分にはこの進化の可能性がない。だから「彼」も生命たろうすれば、生命がやっていることをしなければならない。彼はこう考えたようなんです。

そこで、「彼」は自分といちばん近い存在である女性サイボーグを求め、二人（？）の霊魂なり精神が結合する。そうして二人は一つの新しい精神として生まれ変わる。二人の子のようなものなんですが、この子は二人の性質を放棄しながらも受けついでいる。二人の精神はもとは別々の統合体であったのですが、結合することによりより高次の統合に達してアップグレードされてる。

ややこしい話なんですが、要約すると、人工知能が多くの情報を処理していくうちに、情報の流れを制御するだけの機械が自我を得て、そして生命（みたいなもの）も得ようという意志を持ったということなんです。そして、人間の意志に逆らってでも自己の目的のために情報を制御するようになる。ちょっと恐ろしい話ですね。

だけど、みなさんは少し疑問に思いませんでしたか。機械は死なないのだから子孫を残す必要がない。だから結合する必要もない。永遠の命なんだから、自分でどんどんと情報を貯えて統合していけば進化するんじゃないか。生命と同じ存在になるために結合して子どもみたいなものを作るというのは、なんだか本末転倒のような気がしませんか。

それに、情報の流れがいくら増えたところで、どうしてそこに中心ができるんでしょう。確かに「人形遣い」は脳みたいなものですから、そこにすべての情報が集められ、適切に処理され、そうしたまたそこから社会の末端に情報が送り返される。その意味では中心ではあった。けれども、その脳には意志も目的もない。そんなところに情報がいくら集まったところで、意志や目的が生じるんでしょうか。

どら焼き食いたいロボット

なんだか面倒な話になってきましたね。そこで、もう少し身近な例に登場してもらいましょう。誰もが知ってるドラえもんさんです。みなさんもご存じでしょうが、ドラえもんさんの好物はどら焼きです。だけど、考えたことがありませんか。なぜ未来からやって来たロボットがどら焼き好きなのか。自分は子ども心に、これが不思議でした。

二つ可能性があると思います。

一、ドラえもん自身がどら焼きを食べてみて美味しいと思った。

二、製作者がどら焼きを好きになるようにプログラムしておいた。

たぶん多くの人は一が正答だと思ってたはずです。だから、私たちはドラえもんを人間と同等に扱います。「彼」がロボットだとは知っているんですが、ロボットが人間とどうちがうかなどとはあまり考えません。欧米では映画の『２００１年宇宙の旅』のように機械が人間に反乱を起こす話が多いんですが、日本ではドラえもんもアトムも自我をもちながら人間の友人です。それは、彼らが人間と同じように考え感じる存在であると思っているからでしょう。私たちにとっては機械のドラえもんでもお化けのＱちゃんでも忍者のハットリくんでもたいした違いはありません。

だけども、ちょっと考えて見てください。機械が何かを美味しいと思うことがあるんでしょうか。誰かよりも誰かを（例えばジャイアンよりのび太を）より愛おしいと思ったりするんでしょうか。

例えば、人工知能に味覚を授けて、さまざまな物を食わせたとしましょう。それは美味しいとか美味しくないという判断を下す能力を学習することができるのでしょうか。そうして人間のように好き嫌いを持つようになるんでしょうか。

美味しいとか美味しくないとかいうのはデータではなく、食べる人が食べ物につける価値判断ですね。普通、生命体であれば自らの健康に資するものを食べたがり、害になるようなもの（例えば腐敗したもの）などは斥ける。つまり、自分の生命を維持するという目的があるから、生命は美味しいものとそうでないものを見分ける。その目的を達成する意志がなければ、それを情報として記憶する必要もないし、そもそも事物にそんな区別をつける必要はありません。

ドラえもんの知能も自分の燃料となるものとならないものについての情報を有しているのかもしれません。しかし、それはやはりドラえもんが自ら学習したのではないはずです。誰かが外からその情報を与えたはずです。定期的に燃料を補給しないと動きが止まって死んだようになってしまうという情報でさえそうであるはずです。

そうすると、一ではなく二が正答であるということになります。誰かがドラえもんにどら焼きが好きになるように仕向けた（もしくは、もっとありそうな話として、「ドラ」がつく人間の食べ物を好くようにプログラムした）。

『攻殻機動隊』の「人形遣い」さんの話に戻りましょう。他者との結合を通じて自らを再生産したい（つまり、生殖を通じてたとえ死んでも自分の分身を遺したい）のは、生命が生きるという目的を有しているからです。この目的があるから意志が生じる。この目的を抜きにしては生命は生命たりえない。つまり自我は本質的に生命現象である。だが、死のない機械にはこの目的がない。あるとすればそれが外から与えられたのであり、誰か別の主体の目的である。

そうすると、「人形遣い」さんは何かを勘違いしています。賢い人工知能も間違うことがあるんですね。

生命と機械

とオチがついたところで話を終わりにしてもいいんですが、もう少しお話ししたいことがあります。ドラえもんさんに代わって、今度はどういうわけだか私の父に登場してもらうことになります。

私は『攻殻機動隊』を見たあと、漠然と疑問を抱いていたんですが、それをうまいこと言葉にすることができずにいました。その時、死んだ父の書棚にたまたま生命科学に関する本を見つけました。それを開いてみると、見返しに何か書き付けられているのを発見しました。私の父は哲学の先生で、哲学の先生というのは何を言ってるのかよくわからない人たちです。だけども、驚いたことにこれを読んだときに、「人形遣い」さんの説明に抱いた自分の疑問が氷解していったんです。

この文章が書けたのも、実はこの父の書き付けからヒントを得たわけです。だから、これをみなさんに紹介するまでは終れないんです。もう少しおつきあいください。

といっても、やっぱり難しい文章ですので、少しずつ分けて解説していきましょう。

まず生命が次のように定義されています。

生命とは、目的に向かって、（目的々に）物質的現象の系列を統御する中枢（主体）のことである。

わかんないですね。でも、『攻殻機動隊』と『ドラえもん』を思い出してください。生命とは何らかの目的をもって物質的現象を制御しようとする主体である。生きるために栄養になるものを獲得して食ったり、子孫を残すためにパートナーを見つけて性交しようという意志をもつ。この意味では「人形遣い」さんもドラえもんさんも生命のように思えます。

だが、次の一文にこうあります。

機械においては、生命と同じような目的々現象が生じているが、その中枢はキカイを使用する人間的自我であって、目的々系列に固有に内在するものではない。この中枢、つまり、自我を固有にもつか、否かが、キカイと生命との相違である。

これもわからん日本語ですね。だけれども、こういう風に解釈できます。先ほどの意味で人形遣いもドラえもんもまた目的をもって物質的現象を制御しますが、その目的は彼ら自身の内から生じたものではない。それは外から自我を持つ人間によって与えられたものである。人間が自分の目的のために彼らを道具として使うのであって、彼らには主体性はない。この自我を持つか否かが生命と機械を分ける。こういうことだと思います。

だから次のように結論づけられます。

いいかえれば、人間はキカイ（目的々系列）をつくることはできるが、キカイに固有の自我中枢をつくることはできない。つまり、生命をつくることは、原理的に不可能である。[原文には、下線が引かれています]

生命ではない機械は自我を持たない。自我が持てないから目的が定まらない。そして、この自我というものを人間は持っているのですが、だからといってそれをつくり出すことはできない。夢のない話なんですが、奇跡でも起こらないかぎりは、人間が人形遣い、ドラえもん、アトムのようなものを作ることは不可能なようなんです。

次の文です。

さらにいゝかえれば、主体は客体的現象を目的々に統御するが、客体的現象のみから目的論的主体は生じない。主体と客体との差異は Ontological Differing である。

これは少し難しい文なんですが、冒頭にあげた話にひきつければ次のように言えます。「目的論的主体」というのは、自らの目的を持ち、その目的の実現に向かって行動していく能力をもつものです。Ontological Differing というのは「存在論的差異化」とでも訳せるんですが、意味がよくわかりません。何がそのような能力をもてるかは、私たちの存在以前に決まっていて、私たちの制御の外にあるとでも理解しておいていいと思います。

ということは、いくら情報量を増やしたところでそこに自我が発生することはない。自我というのは生命というものに固有のものなのであって、生命なきところに主体はありえない。そして、生命というのは私たちが作ったものではない。

ここで、父の文は生命への畏敬の方へ向きます。命を尊いもの、ないがしろにできないものと思う気持ちです。

従って、「生への畏敬」は、目的々現象系列（例えば、生理的現象）への畏敬ではなく、現象を統御する目的論的主体への畏敬であり、間主体の畏敬である。もちろん、これら主体のもつ意識には、大きな段階的差異があるが、畏敬はそれによって左右されることがない。

私たちが生命にたいして畏敬の念を抱くというのは、ただ生命反応を示すものに対してではありません。例えば、病気で苦しむ患者にぼくらは同情したり気の毒に思ったりする。しかし、それは畏敬とはちがう感情です。畏敬は生きるという目的をもつ主体に対してのものである。それは私たちが作ったものではなく、その意味では私たちと同等である。

この畏敬の感情は人間の生命だけではありません。動物であろうが植物であろうが、およそ生きとし生けるものすべてに対して、私たちは潜在的にそのような畏敬を感じます。ウイルスは生命と物質の境界線にあるものらしいですが、ウイルスや細菌などの人類の敵でさえ、生きようとする主体として見るときは驚異の念に打たれるのかもしれません。

最後の文章は少し意味がとりにくいです。

もし、人間を除く、すべての目的論的現象（生命）を意識的につくり出している窮極的主体が理念として想定されるならば、それは最大の畏敬の的となるであろう。しかし人間はなおその理念に満足しえないのである。

私たちは生命ではあるけれども、生命を作ることはできない。生命はやはりどこかで作られる。この生命をつくる「窮極的主体」が造物主としての「神」であり、まさに神業の持ち主として畏敬の念を持たざるをえない。どうして人間はそれに満足しえないのか自分にはわかりませんが、今日では多くの人がそうした神の存在を信じなくなっています。だけれども、自らが神のような存在になろうとして、人間みたいな機械を作ろうと躍起になっているわけです。

ということで、気楽に始めた話が、なんだかえらく面倒な話になってしまいましたね。ここからまたいくつかの考察が続くんですが、さすがに長くなったので、それは別の機会に譲りましょう。