「ロボットに最高道徳を積む」一鄭教授とスマナサーラ長老との画期的な対談

『道徳ロボット一AI時代に欠かせない「幸せに生きる脳」の育て方』（サンガ､2019）に掲載されている、著者アルボムッレ・スマナサーラ長老（上座仏教）と東大大学院の鄭雄一教授との対談が面白い。note拙稿で詳述してきたように、鄭雄一教授は、医学と工学を融合し、生体に働きかけて治療や再生を促す高機能デバイスの開発に取り組みつつ、道徳エンジンを人工知能やロボットに搭載する研究を光吉俊二同大学院特任准教授と試みている。
　朝日カルチャーセンター講師を務めるほか、NHKテレビ「こころの時代」などにも出演する仏教の長老との異色対談は、激しい火花を散らす本音の対談で「どうすれば幸福に生きられるのかと、客観的に大脳を使って物事を考える道こそが、仏教が定義する道徳的生き方である」と説く長老と、ロボットに「最高道徳」を搭載すると「ロボットの振り見て、わが振り直せ」という時代が来ると説く鄭教授の科学的道徳論は大いに傾聴に値する。そのエッセンスの一部を私なりに整理して短くまとめ、原文を抜粋しつつ紹介しよう。

＜鄭＞道徳というのは海苔の缶みたいに円柱形で、上からばかり見ていると丸に見え。横からばかり見ていると四角に見える。どちらも正しいのですが、本当は円柱ですよ。動物の文化には創始者の存在がなく、人間の文化では、過去に創始した偉人を認識する。偉人とバーチャルな仲間意識が持てる。それこそが他の動物と決定的に違う、人間の文化の本質です。道徳感情もすべて、「感情の原動力は欲」であり、マズローの欲求五段階説には問題点がある。「安全欲求」と「生理的欲求」、「承認欲求」と「所属と愛欲求」はいぜれも動機が似ていて冗長であり、自己実現欲求は分類が少なすぎ、自己犠牲的な聖人と純粋な動機の自爆テロ犯はどちらも自己実現しているので、一緒に分類することは問題である。そこで、以下の「道徳と欲」の4分類を提唱する。
⑴　道徳次元1/個人で完結する欲(20％）
⑵　道徳次元2/仲間との関係で生まれる欲(70％）
⑶　道徳次元3/個人と仲間が一体化することで生まれる欲(10％）
⑷　道徳次元4/社会間の共通性を認識して、特定の社会のバックグラウンド
　　を越えようとする欲（１％）
＜スマナサーラ＞これは考えがちょっとおかしい。自爆テロをやっている人は、生理的な欲さえ満たされなくなっているんですよ。
＜鄭＞彼らは「天国に行ける」と言われて、欲が自分に閉じているわけですね。わかりました。そこはちょっと考えてみます。道徳の次元は仲間の範囲、「共感」の範囲なので可視化できる。情動の変化は音声を通じて簡単に計測できる。センサーの塊であるロボットに「最高（次元の）道徳」を積んで、さりげなく導いてもらうのです。子供たちはすぐに順応するでしょう。ロボットに最高次元の道徳エンジンを積んだらどうなるか。相手の道徳次元を計測しつつ、個別に自然に高い次元に導いていってくれるのではないか。「ロボットの振り見て我が振り直せ」と私は言っているのですが、特に子供たちは影響を受けると予測できますし、いいアイデアだと思っています。
＜スマナサーラ＞でも、そういうロボットができたら、子供たちは「ロボットにはできるだろうけど、俺はやらないよ。ロボットじゃないから」と言うよ。
＜鄭＞解決策は「いかに仲間を広げるか」ということです。
＜スマナサーラ＞そのプラクティカルで一番早い方法は、自我を消すことなのです。それぞれが自我を張らないから成り立っているのでしょう。心臓細胞が、「なんだって俺だけすごっく苦労しなくちゃいけないんだ」と思った瞬間で終わりですよ。思わないからありがたいのですね。
＜鄭＞今、長老の話を聞いて、まさに自我の問題なのだと思いました。私は、これまで道徳次元の１だけが自我を捨てることが課題な段階なのかと思っていたのですが、実は2や3も自我を捨てることと関係しているのだなとわかりました。評判や信用などというは自我が入っていますし、自分の属している社会を重んじるというのは、自我が入っていることなのだと。そういうのを全部捨ててしまえば4にいくのだと思います。はまっている枠が全部なくなってしまう段階ですね。
＜スマナサーラ＞初めは真っ黒な自我があって、その自我をちょっとずつ拡大していって、黒が薄くなって、そのうち青くなって、さらにピンク色になって、白くなって、ついには色がなくなってしまうのですね。
＜鄭＞AIには自我がないのです。光吉俊二という私の友達が自我っぽいものだけつくって、TEDに入れてみた映像が残っています。赤ちゃんみたいに暴れてしまって、とてもじゃないですが社会に出せない。我々が今、AIに道徳を搭載しようとしている試みは、共通なルールと個別のルールに分けて考えるやり方です。相手のそれを見て、共通と個別の適用をまず見ます。そして「共感の範囲」を見ます。自分だけなのか、自分の狭い仲間だけなのか、あるいは自分の文化も超えた、他文化とか異文化の人まで入っているのか、やり取りをしながらそれを見ていくことになります。それで分けていくのです。
＜スマナサーラ＞いろいろアルゴリズム（ある問題を解決する方法や、ある目標を完了するための方法が書かれた一連の「手順」のこと）をつくっていくんですね。
＜鄭＞おっしゃる通りです。小学校なら、自分たちが持っているルールを書き出してもらうのです。そして、「あなたが持っているこのルール、他の国に行って通用しますか？」と聞くと、みんなわかるんです。「これは無理です」「これはどこに行ってもそうだね」と。だいたい2つに分かれるんですね。とにかく、いっぱい付箋紙などに書き出してもらって分けるんです。この授業を通して、「自分の国にしかわからないようなルールは強要しちゃいけないんだな」とか、子供はそういうのが自然にわかることが多いですね。ただ、今の道徳教育の基本はそういうスタイルではありません。道徳の教科書を見ると、特定の枠組みを押し付けるような形になっているので、ちょっと心配しているんです。
＜スマナサーラ＞道徳に科学を介していませんからね。道徳は科学化しなくてはいけないのです。私がここで言う科学は、科学者の世界の科学は違う本物の科学です。論理的で理性的で、すべての人類に共通するものにならなくてはいけないのです。
＜鄭＞それは立派に科学ですよ。『サンガジャパンVol,30慈悲が世界を変える』の18頁にある『「慈悲の瞑想」の理論』は非常に役立つなと思いました。道徳の意義は仏教ですので、今日は完全にいろいろインプットをいただき有難うございました。AIの開発に、ぜひ無執着というのを入れられるといいですね。「無執着ロボット」、大きなヒントをいただきました。道徳次元を上げていくということは、結局、自我の壁を取り払うことですから、究極が無執着というのは、結局、壁がなくなることだと思います。一つ目標が見えた気にもなりました。ロボット・AIに関しては、西洋ですと「ロボットは奴隷」という考えなので、「ロボットに最高道徳を積む」とか、それを目指すなどということは、まずもってすぐには受け入れられないです。道徳をより深く研究して、それに基づいた人工知能やロボットの開発と人間社会の変革につなげていきたい。