【社内勉強会】イノベーションと道徳

はじめに

誰が、なぜ、殺人はいけないと決めているのでしょうか？
なぜ戦争や死刑では殺人が許容されているのか？
（多様な）人類全体に共通の道徳原理は無いのか？

このような問題提議から始まった今回のイノベーションと道徳に関する社内勉強会。

今回は、東京大学大学院工学系研究科・医学系研究科（兼任）の鄭 雄一 教授を招いて実施しました。
鄭先生とは、東京大学社会連携講座「道徳感情数理工学講座」が研究する汎用AIを、人事・人材活用領域に活用するための共同研究・開発に関する包括連携契約を3年前より締結させていただいております。

今後ZENKIGENとして、どういった社会を創り上げていきたいのか、どのようなイノベーションを起こしてグローバリゼーションを目指していきたいのか、そして多様化する社会や組織、個人を形成していくためのダイバーシティ・マネジメントについて考えるために、鄭教授の道徳理論について学ぶ機会を設けさせてもらいました。

さて、冒頭の問題提議ですが、殺人がいけない理由に、
「神が」「国が」「自分が」「ヒトが」「生命を守るために」「秩序を守るために」
など、様々な意見が出てくると思います。

では、戦争や死刑はどうでしょう。
戦争や死刑など、「社会が容認する殺人」をきちんと説明できないと、
「殺人していい場合もあるが、いけない場合もある」「殺人は良いとも悪いともいえない」
という回答になってしまうのです。

つまり、場所や時間が異なると、善悪の区別も異なり、グローバリゼーションを行っていく上での道徳体系がないことになってしまいます。

道徳の基本原理

道徳思想には「個人に重点を置いたもの」と、「社会に重点を置いたもの」に分けられ、二つには下記の共通点があります。

・殺人をしてはいけない
・人のものを盗んではいけない
・人をだましてはいけない

しかし、やはり戦争や死刑では守られていません。
つまり、ここでいう「人」というのは「生物学的人間一般」ではなく、「仲間の人間」のことを意味しているというのが鄭先生の定義です。

例えば、
「人の痛みを知りなさい」と言いますよね？これは、「仲間の痛みを知りなさい」という意味に置き換えられます。
「仲間の人間」と書き換えると、あらゆる社会に共通する掟となるのです。

すなわち道徳というのは、仲間同士の内輪の掟を意味し、道徳の基本原理は、「仲間らしくしなさい」というものになります。
そして、この原理には二面性があります。

・個別の掟
　「仲間と同じように考え、行動すること」
・共通の掟
　「仲間に対して危害を加えないこと」

この「個別の掟」と「共通の掟」を分けて認識することが重要です。

人間の道徳の二重性に気づくための思考実験

ここで、鄭先生からとあるエクササイズを紹介いただきました。

2つ目のステップがとても重要で、想像するには、異なる文化や社会について知識や経験が必要です。
外国人に会ったことがなかったり、一つの宗教についてしか知らなかったりすると、例えば「挨拶をしない」民族に会ったときには、「挨拶もできないなんて」と敵対視してしまいます。

つまり、道徳の基本原理は「仲間らしくしなさい」から導かれる善悪の定義であり、「善は仲間らしい、悪は仲間らしくない」ことになります。

ぜひ皆様もこちらのエクササイズをやってみてください。

エクササイズの後は、動物にも道徳があるのかや、未来にむけてどう生きるべきか、欲望と道徳の関係性や、道徳のアルゴリズムについてご説明いただきました。
各トピックにおいて、紹介していきたいところですが、ぜひ鄭先生の書籍をご一読いただけたらと思います。

東大教授が挑むAIに「善悪の判断」を教える方法 「人を殺してはいけない」は“いつも正しい”か？

質疑応答

勉強会の中で多くのご質問もいただいたので、いくつか紹介したいと思います。

Q：道徳の理論は、AIは今後どのように関わっていくのでしょうか。

A：近未来に、一家に一台になるであろう、AIに最高次元の道徳エンジンを搭載させて、そのAIと人間を交流させることで、人間を自然に高い次元に導いていくことを考えています。特に子供は影響されやすく、子供から親の世代への影響があるのでは、と思っております。

Q：共通の掟はどのように定義するのか。
組織づくりで共通項は最低限にするべきとのことですが、仲間らしいという共通項を見出すのが難しそうと感じました。人ではなくコトに向き合い、目標やビジョンを達成するための仲間であれば、コトを成し遂げられるスキルをベースに仲間集めをするということになるのでしょうか。
また、多様性を認めるというのは、相手に干渉しない＝寛大である＝無関心にも近いのでしょうか。

A：ポイントは、自分や自分の集団が持っている掟を、共通と個別の部分に分けて認識し、前者を守れれば最低限仲間に入れ、後者については多様性があって当たり前、ととらえる感覚を身に着けることです。共通の掟の最低限は、「仲間に危害を加えない」です。これを守ることで、最低限の社会を構成できます。また、様々な目的をもつ団体ができるときには、それぞれの集団で、プラスして共通の掟が出てくると思います。
しかし、異なる集団が出会う際には、再度最低限の掟に立ち返って、相手の集団との関係性を構築していくべきです。個別の掟を否定しているわけではなく、それらを消す必要もないですし、統一する必要もありません。個別の掟は最低限の共通の掟の下位にとして扱い、優先しないということです。すると、仲間と認識する範囲が広がり、自分の集団と異なる個別の掟については、むしろ好奇心が発動して、面白い、興味があると感じるようになると思います。無関心とは真逆になると思います。

Q：共通の掟づくりにつまづくこともあるのかなと感じたのですが、どう定義しているのでしょうか。

A：先程皆様にやっていただいた「人間の道徳の二重性に気づくための思考実験」のエクササイズが重要です。掟をあげてもらい、自分とは違う他者に想像を及ぼすことができるかがポイントです。色んなアイデンティティに対して思いやりがあると、そのような想像ができると思います。
これは、演劇を通したエクササイズも可能です。例えば、会社の他部署の人間になり、今の自分の部署とのコラボをするという想定で演技をしてみるなどです。ここで必要なのは、他社の立場を想像する力と、他のグループについての最低限の背景や文化などについての知識です。何も知らなければコラボを着想することすらできません。

Q：道徳性と道徳心とは何が異なるのでしょうか。
学校で教わる道徳心とは一体何でしょうか。そして、それを評価している教員は何をもってして評価しているのでしょうか。また、本来は子供や教育現場での道徳心はどのように評価すべきなのでしょうか。

道徳性と道徳心には大きな違いはないと思っております。今学校で教えている道徳は、ある国であるとか、民族を前提としたやや狭い仲間の範囲の道徳性です（道徳次元3に近い）。一部、道徳次元4に近い内容も散見されますが、寛容性・多様性が十分でないことがほとんどです。教育は国が提供していることが多いので、そのような狭さはある程度仕方ないと思います。
ここでのポイントは、道徳といっても、次元は様々であり、その仲間の範囲をとらえることが大事であると思います。行為の内容ではなく、適用範囲が重要だということです。だれでも仲間にはそれなりの良いことをします。問題は、誰にそれをして、誰にしないか、です。

Q：共通の掟の中で、こぼれ落ちる人はいないのでしょうか。

A：そういった人が出てこないためにも、共通の掟は最低限であるべきです。「仲間に危害を加えない」という掟ですが、実はあいまいな部分もあり、人それぞれ危害の度合いが違うので、相手のことを考えつつ、最低限に設定することが重要です。共通と個別の掟は互いに食い合う関係になっていますので、一方が広がると他方は狭まります。
本来個別の掟であるべき内容（挨拶の特定のやり方など）を共通の掟にしてしまうと、ほとんどの「外人」は、まともな人間でないということになります。

Q：個別の掟は仲間意識を作るからこそ重視されるのではないかと思います。その上で共通の掟によって仲間意識を作ることは可能なのでしょうか。

A：個別の掟に重点を置きすぎると、多様性を阻害する可能性があります。ソリューションのない新たな問題に立ち向かうイノベーションを起こそうとするチームを構成する際には、共通の目的意識があるので、それを基に仲間意識を作っていきます。

Q：個別の掟同士が背反やお互いに害する場合に共存できるのでしょうか。

A：ポイントは、個別の掟は共通の掟の下位にあるという点です。個別の掟を別の集団のものが守る必要はなく、混ぜたり、統一する必要もありません。その集団の中で保持してよいのです。ただし、その個別の掟の中に、相手を強制するようなものが含まれてはいけません。このように設定すれば共存は可能となります。

Q：イノベーションと多様性の関係性において、共通のルールが厳しい画一性の高い組織と、共通のルールが最低限な多様性の高い組織が近接している場合、互いのコンフリクトが起こりやすいのではと思います。
画一性の高い組織に所属する仲間と、多様性の高い組織に所属する仲間が、それぞれ、どんなことを意識するとよいでしょうか。

A：ポイントは、思考実験にあると思います。今回問題にしたいのは、多様な組織や人材を束ねて、最高のプロダクトを作り上げるには、どんなマネージメントが必要か、という問題です。このゴールはまず共有しているという前提で、二つの組織をまとめ上げる場合、二つの組織のメンバーに、相手の立場になった際に同じルールを守れるか、思考実験してもらう必要があります。すると、過剰な共通のルールは、はじかれ、お互いに守るべき最低限がだんだんと定まってくるということになるかと思います。

Q：道徳的とは「仲間らしい」、道徳的ではないとは「仲間らしくない」
日常において、「仲間らしい」から「らしくない」、あるいは、その逆への移動の起こし方に関心があります。歴史的に、広告産業＝プロパガンダで、敵をつくるという手法は開発されてきたと思います。一方で、仲間をつくる手法は、なにか有効な手法があるでしょうか。

A：ポイントは、人間の仲間意識の特性であると思います。仲間をつくる方法は、広告でも利用されていて、それは繰り返しの暴露です。人間は、危害のない相手・対象に繰り返し暴露されると、親しみを覚えるようになっています。
たとえば、コマーシャルソングがその典型例です。音楽的に見れば、どうってことのない曲も、マスコミを通じて繰り返し暴露されることで、慣れと親しみを生じます。通勤の際に見慣れた風景なども、そのような例です。我々はどうってことのない風景でも、慣れと親しみを感じ、郷愁を覚えます。この手法は、敵を作って仲間の結束を促すことと同じくらい、仲間の宣伝の常套であると思います。

Q：結局私達は今後どう生きていくのが良いのでしょうか。

A：現在我々が遭遇している主要な道徳的問題を、これまでの視点を用いて整理・分析する必要があります。差別・格差・分断こそがそのような克服すべき問題の代表であると思いますが、共通の掟と個別の掟を区別しないことや、リアルな面識とバーチャルな面識を混同することが、これらの問題の主因です。これらを区別するだけで、道徳次元は上がります。
ほとんどの場合、問題を起こしているのは、共通ではなく、個別の掟であり、リアルではなくバーチャルな面識です。個別の掟の相対性と多様性を理解し、バーチャルな面識の限界と有用性を知ることで、道徳次元を高めることができます。講演であまり触れられませんでしたが、実は、幸福にも次元があり、道徳次元と直結しています。道徳次元が上がると、より次元の高い幸福感をえることができます。
目指すべきは、漠然ととらえた「幸福」ではなく、より次元の高い幸福になると思います。今の幸福論のほとんどは、この分類は十分でなく、おいしいものを食べた幸福と、人助けをする幸福が同次元で語られてしまい、そのため、議論が破綻しています。

最後に

いかがでしたでしょうか。
ボーダレスな社会になっている中で、異なる文化の方々と出会う機会が増えたかと思います。私達が立ち向かう社会課題への対応として、イノベーションの発現率を高める多様性のマネジメントが求められる世の中において、鄭先生の「道徳」に関する勉強会はとても考えさせられる、刺激的なものとなりました。

また、鄭先生から、最後に、下記の問題を提示いただきました。

こちらについて、勉強会の中で議論はできませんでしたが、ぜひ皆様も鄭先生の書籍をご一読いただいた上で、考えてみてください。