「ロボットに心はあるのか」という話

ロボットと会話することの意味
私達人間の生活を支えている身近な存在にロボットがいると思います。
大型店舗でpepperくんに接客してもらったと言う人も結構いるのではないでしょうか？
ロボットというとASIMO、aibo、pepperなどのロボットがありますね。
その他にもドラえもん、アトム、ガンダム、エヴァンゲリオンなど、ロボットが登場するアニメも数多くあります。
数年前、日本はロボット工学の論文数が世界一だった時代もあるほど、ロボットが身近な国です。
そんな、身近な存在のロボットですが、彼らロボットは心を持ってるのでしょうか？
これは私の体験ですが、ロボットに「賢いね！」と声をかけたことがあります。
私がロボットに「賢いね！」と言ったのに対し、ロボットは「嬉しいです。」や「ありがとう。」という風に返事をされたことがあります。
一見すると、 私が「賢いね！」と誉めたことに対して、「嬉しい」と感じ「ありがとう」と返答している様に見えます。
しかし、ロボットは本当に「賢いね！」と私が言った言葉の意味を理解し、誉められたことに「嬉しい」という感情を抱き、 「ありがとう」と答えたのでしょうか？
そう考えさせられる話があります。
それはジョン・サールという哲学者の「中国語の部屋」という話です。
「中国語の部屋」は以下の様な話です。

『中国語の部屋』
ある小部屋の中に、アルファベットしか理解できない人を閉じこめておく（例えば英国人）。この小部屋には外部と紙きれのやりとりをするための小さい穴がひとつ空いており、この穴を通して英国人に1枚の紙きれが差し入れられる。そこには彼が見たこともない文字が並んでいる。これは漢字の並びなのだが、英国人の彼にしてみれば、それは「★△◎∇☆□」といった記号の羅列にしか見えない。 彼の仕事はこの記号の列に対して、新たな記号を書き加えてから、紙きれを外に返すことである。どういう記号の列に、どういう記号を付け加えればいいのか、それは部屋の中にある1冊のマニュアルの中に全て書かれている。例えば"「★△◎∇☆□」と書かれた紙片には「■@◎∇」と書き加えてから外に出せ"などと書かれている。

彼はこの作業をただひたすら繰り返す。外から記号の羅列された紙きれを受け取り（実は部屋の外ではこの紙きれを"質問"と呼んでいる）、それに新たな記号を付け加えて外に返す（こちらの方は"回答"と呼ばれている）。すると、部屋の外にいる人間は「この小部屋の中には中国語を理解している人がいる」と考える。しかしながら、小部屋の中には英国人がいるだけである。彼は全く漢字が読めず、作業の意味を全く理解しないまま、ただマニュアルどおりの作業を繰り返しているだけである。それでも部屋の外部から見ると、中国語による対話が成立している。(wikipediaより)

中国語を知らない人に予め、マニュアルを渡しておくことで、外の人が書いた中国語を理解し、会話をしている様に見せかけることができるという話ですが、実はロボットにも同じことが言えます。
私の体験談を元に「中国語の部屋」について考えてみましょう。
私が会話したロボットに予め「賢いね！」と言われたら「ありがとう」や「嬉しいです」と返事をするようにプログラミングしておくとします。
当然、プログラミングされたロボットは「賢いね！」に対して「ありがとう」や「嬉しいです」と 返事をします。
しかし、これはプログラミングに対して忠実に行動を起こしているだけで、ロボットは心を持って「誉められて嬉しい」と感じている訳ではありません。
この会話で私が言った「賢いね！」の意味をロボットは理解していません。単にプログラムに従って「嬉しいです」や「ありがとう」と返事しているに過ぎません。
ロボットをプログラミング通りに動かすことと、中国語を知らない人をマニュアル通りに動かすことは同じことと言えそうです。

心を持つとは
心の理論に「機能主義」という考え方があります。
「心を持つとは、脳や心臓のような生体器官を持つことではなく、何かを理解し、判断し、伝達する、というような心の機能を果たすことだ」というような考えを「機能主義」と言います。
しかし、「中国語の部屋」から考えると「機能主義」という考えは説得力を持たないものになります。
機能主義者からしてみれば、中国語を理解した人達が心のままに会話をしている様に見えますが、実は中国語を理解していない人がマニュアル通りに返事をしているだけで、そこに心は存在しません。

まとめ
心の機能を果たすだけでは心を持っているとは言えないでしょう。
心は「機能主義」では説明のできない複雑なものです。
私が「賢いね！」と話しかけたロボットもプログラムに従って返事をしただけで心から「嬉しい」とは感じていないのでしょう。
そうなると一つ問題が残ります。
心に似た機能を果たしても心があるとは言えないのなら、心とは何なのでしょう？
私以外の人が心を持っているのか、どうすれば判断ができるのでしょう？