東大大学院理系教授の画期的な道徳論⑴一左右の対立を統合・止揚する基本原理

●「仲間を作る道徳」一第3回「ウェルビーイング教育研究会」　

10月18日に東京大学大学院医学系研究科疾患生命工学センター教授の鄭雄一氏の研究室を訪れ、私が代表の「ウェルビーイング教育研究会」での講演をお願いし、ご快諾いただいた。モラロジー道徳教育財団道徳科学研究所で「仲間をつくる道徳」というテーマで11月24日に開催することになった。
　鄭教授は米国マサチューセッツ総合病院に留学し、ハーバード大学医学部講師、助教授を勤めた後、東大大学院工学系研究科バイオエンジニアリング専攻教授となり、平成28年から医学系研究科の教授を兼務しておられる。
　東京大学センター・オブ・イノベーションでは、「自分で守る健康社会」という将来ビジョンのもと、10以上の産学協創プロジェクトを推進し、「入院を外来に、外来を家庭に、家庭で健康に」をテーマに、健康状態を可視化し、行動変容を促すことで、健康医療イノベーションを興そうと試みている。
　同プロジェクトをリードする鄭教授は、イノベーションと道徳の関わり方についても研究しており、ロボットを制御するための「道徳エンジン」を人工知能やロボットに搭載することも試みている。詳しくは、モラロジー道徳教育財団の「道徳サロン」の拙稿連載144「仲間をつくる道徳一東大理系教授の説く道徳の基本原理と4次元の階層」を参照してほしい。
　「道徳エンジン」とは聞きなれない単語であるが、ロボットに「善悪の区別」を自分でつけさせるにはどうすればいいか、という研究である。「ロボットの道徳」という構想は、実はいまに始まったものではなく、古くは「アシモフの3原則」が有名で、アメリカのSF作家アイザック・アシモフがその小説の中で述べたもので、以下の3条で構成されている。

●「アシモスの3原則」に代わる原則

第1条：「ロボットは人間に危害を加えてはならない。また、その危険を見過ごすことで、人間に危害を及ぼしてはならない」
第2条：「ロボットは人間に与えられた命令に従わねばならない。ただし、与えられた命令が､第1条に反する場合は、この限りではない」
第3条：「ロボットは、前掲第1条および第2条に反する恐れのない限り、自己を守らなければならない」

　この3原則を一部の人々はロボットの従うべき道徳律の決定版のように扱っているが、根本的に大きな問題をはらんでいて、このままでは使えない、と同教授は指摘する。
　工学の考え方に基づいて「抽象的概念のモデル化」「道徳のメカニズムの構造化」も可能になり、人間の道徳をモデル化することができれば、それをロボットの頭脳に搭載できるという。
　そして、「ロボットと人間」という異なる存在同士で共有できる道徳システムを構築することができれば、それによって人間同士も、立場の違い等による分断を乗り越え、多様性社会を発展させていくことができる、と同教授は指摘する。
　同教授は、このような新しい道徳システムを用いて、ロボットとの共生社会の可能性について考え，「アシモフの3原則」に代わる原則について考察し、『東大教授が挑むAIに「善悪の判断」を教える方法一「人を殺してはいけない」は”いつも正しい”か？』（扶桑社新書）において、次のように結論づけている。

＜まず、第1条、第2条は、「人間」ということばの使い方に大きな問題があることがわかりますね。このような書き方では、「生物学的人間一般」と捉えられてしまいます。ここは「共通の掟」を守ることのできる「仲間の人間」とするべきです。
　すなわち、第1条は「ロボットは仲間の人間に危害を加えてはならない。また、その危険を見過ごすことで仲間の人間に危害を及ぼしてはならない」とすべきでしょう。
　「人間」を「仲間の人間」に書き換えると､第2条はおかしな文章であることに気づきます。仲間は相互に対等な関係です。仲間なのに絶対服従では、ロボットと共生しているとは言えないでしょう。
　すなわち、第2条は「ロボットは仲間の人間と協力・分業しなければならない」ではどうでしょうか。第3条はこのままでよい＞

●道徳次元の4段階構造とその特徴

　この内容は、同書の第6回講義「道徳エンジンをロボットに搭載してみよう」で述べた「道徳アルゴリズムの理想的構成」とほぼ一致する。アルゴリズム」とは「作業手順」のことで、特定の課題を解決したり、特定の目的を達成したりするための計算手順や処理手順。
　鄭教授はロボットに搭載すべき「道徳エンジン」の基本形は、他の動物と共通している「道徳アルゴリズムの基本的構成」であるとして、次のように説明している。
　動物は、「共通の掟：仲間に危害を加えてはいけない」と「個別の掟：仲間と同じように思考・行動せよ」を区別せずに、「仲間らしい」かそうでないかを判定する。もし、「仲間らしい」と判定すれば、仲間として受け入れ、道徳を適用し、協力・分業する。
　もし、そう判定しなければ、仲間としては受け入れず、道徳も適用しない。その危害の大きさに依存して、無視､回避、攻撃などの対応を取る。これらの判定結果は、それぞれの個体の記憶にデータとして蓄積され、将来における「仲間らしい」かどうかの判定の際の閾値(いきち：感覚や反応や興奮を起こさせるのに必要な、最小の強度や刺激などの（物理）量）に影響を及ぼす。
　このアルゴリズムは道徳次元3までに当たる。ちなみに、鄭教授は道徳次元を4段階の階層構造として捉え､第1次元の道徳の特徴は「利己」、第２次元の道徳の特徴は「信用」、第3次元の道徳の特徴は「利他・自己犠牲」、第4次元の道徳の特徴は「寛容性・多様性」であるとしている。
　243人の成人調査によれば、道徳次元1の人は20％、道徳次元2の人は70％、道徳次元3の人は10％、道徳次元4の人は1~2%であった。
　道徳次元4は「仲間らしい」かどうかの判定において、共通の掟と個別の掟を区別し、共通の掟のみを基準に使い、個別の掟は外すことで実現できる。また、「仲間らしい」と判定しなかった際の対応である「無視、回避。攻撃」を、より寛容なものにするために、「無視・再トライ、回避、防衛」に書き換える。このように設計することで、人間にとっても理想的な「道徳エンジン」を備えることになるので、「理想的構成」と呼ぶ。

●興味深い「道徳エンジン」戦略

　鄭教授は同書において、工学的視点から人間の道徳のメカニズムを構造化し、道徳が適用される「人間」は「生物学的人間一般」ではなく、「仲間」という意味であること、道徳には「共通の掟」と「個別の掟」が混在しており、「個別の掟」はそれぞれ違っていても、「共通の掟」さえ守れば、仲間になれること、これからの多様化社会においては、共通の範囲を広げ、仲間と認識できる範囲を広げていくことで、ロボットが人間と共生できる「道徳エンジン」が設計できることを明らかにした。
　鄭教授は、「道徳感情の原動力は欲である」と仮定することで、共通の範囲を基準にして、道徳をみごとに分類し、「心の寛容性・多様性測定器」の開発に取り組んでいる。
　本noteと「道徳サロン」拙稿連載143でも紹介した東大大学院工学系研究科バイオエンジニアリング専攻道徳感情数理工学の共同研究者が、音声から感情を分析する装置を完成させていて、簡単にスマートフォンやパーソナルコンピューターに話しかけるだけで、感情をいくつかの領域（怒り、喜び、悲しみ、平静、興奮）に分けて判定することができる。
　急速に少子高齢化が進む日本において、今や血縁・地縁という狭い仲間の範囲だけでは社会は維持できなくなってきている。移住者や移民を受け入れることは、血縁・地縁に代わる新たな社会的絆を生み出してくれる有力な手段と言える。
　近い将来、会社や公共の場所に設置され、最終的に一家に一台が当たり前になると予想されるロボットも、有力な「仲間」として受け入れる態勢を整えることを真剣に考える時期だとして、興味深い“戦略”を披露し、次のように述べている。

＜ロボットに道徳次元4の道徳エンジンを搭載し、普段から家庭・会社・公共の場所でその振る舞いを見せることで、「ロボットの振り見て、我が振り直せ」よろしく、人間に「ロボットはなかなかいいことをするな」と思わせて、高い道徳次元に自然に導いていく戦略が有効ではないかと思っています。特に子どもは敏感かつ柔軟ですので、ロボットのすることをすぐ真似するでしょう。その子どもたちが「ロボットは、なかなかいいことをするな。お父さん、お母さんも何でロボットのようにできないの？」と言えば、大人たちも巻き込んでくれると思っています。＞

●視野が狭い右翼・左翼を統合する道徳の基本原理

　同教授は同書の「おわりに」を次のように締めくくっている。

＜もう、右翼だとか左翼だとか争うのはやめたほうがよいということです。どちらの考えも重要な視点を含んでいるものの、その視野は部分的であり、今日の私たちが直面する重要問題を解決するには力不足です。
　自分が右翼だ、左翼だと言ってらっしゃる方々の多くは、ポジショントークといって、自分の視点のみから意見を述べて、相手の視点に立とうとしません。議論は白熱して面白くなることもありますが、異なる視点が歩み寄らなければ、決して議論は収束しません。一部の方は、議論そのものを目的としていらっしゃるようです。
　しかし、一番大事なのは、議論をすることではなく、問題を解決することです。右翼、左翼といった視点を超越して統合する道徳の基本原理を理解していただけたら、より包括的な視野を獲得し、多くの問題を解決する見通しを得ることができると確信している。・・・仲間の範囲が広いほど、道徳次元は高いのです。道徳次元が低い人に出会ったら､こう質問を投げかけてください（あるいは、自分自身にも問うてみてください）。「あなたの仲間についての考え方は、どうしてそんなに歪んでいるのですか？」と。＞