モラル・マシン～K.I.T.T.（キット）だったら、どう判断するだろうか

今日は平成最後の13日の金曜日ですね。

BS1でハーバード大学のマイケル・サンデル教授の白熱教室を放送しています。5回シリーズで毎週土曜日に放映中で次回は明日、7月14日夜10:00～10:50に第4回を放送予定です。

マイケル・サンデルの白熱教室2018 - NHK

6月23日 第1回 「移民を拒む権利はあるのか」では自動運転車の道徳的なジレンマの話が登場しました。

今、私は放送大学の授業で「新しい時代の技術者倫理」を履修中。
その中で、KIT版セブン・ステップ・ガイドが倫理的考察のテクニックとして紹介されています‥ここでいうKITとは金沢工科大学のことです。
今回のタイトル副題のK.I.T.T.（キット）は-お判りになったかたも多いと思いますが-米国のテレビシリーズ"ナイトライダー(Knight Rider)"のナイト2000に搭載された人工知能のこと。Knight Industries Two ThousandなのでK.I.T.T.（キット）。マイケル・ナイトとの会話のシーンが好きだったので、車+人工知能と言えばこれでしょ!と副題につけました。

余談ついでに、ラトビアのKURBADSという自動車輸送サービスをしている会社の動画にK.I.T.T.が登場してました。ひゅんひゅんという音と音楽で、あ、ナイトライダー!と反応してしまいます。

さて、セブン・ステップ・ガイドは実践的な手法で、企業活動でも従業員の倫理行動に活用されています。

セブン・ステップ・ガイドにより必ずしも正しい解が導き出されるわけではありませんが、倫理問題においてより良い解、またはより悪い解を見出すことができます。

セブン・ステップ・ガイド
Step 0. 自分が当事者としてとる行動として思いついたものを述べよ
Step 1. 当事者の立場から、直面している問題を表現してみよ
Step 2. 事実関係を整理せよ
Step 3. ステイクホルダーと価値を整理せよ
Step 4. 複数の行動案を具体的に考えてみよ
Step 5. 倫理的観点からエシックステストを用いるなどし、行動案を評価せよ
Step 6. 自分の行動方針を決定せよ
Step 7. 再発防止に向けた対策を検討せよ

社会経験の中で自分の行動設計として無意識的に行っているステップも含まれているのですが、改めてひとつひとつ段階を追ってみると私にとってはステップ4が難しい‥。自分の行動案をその方法やプロセスなど具体的に考えることはできても、それを複数発案となると何か見落としている感があります。
ただ、そういった気づきや考えさせることが学習目的です。

さて、話をタイトルにある「モラル・マシン」に戻しましょう。

人工知能を搭載した機械が、人間の命に関わる意思決定に迫られるシーンがやってきます。人工知能が抱える「道徳的ジレンマ」に直面した時、技術者としてどう判断するのか。

歩行者を自動運転車がはねるのか、よけて壁に激突し運転手が死ぬのか。
白熱教室でも様々な意見が飛び交いました。

以下で紹介しているリンク先は、米国マサチューセッツ工科大学 (MIT) 建築・計画スクール内に設置された研究所 MITメディアラボ のウェブサイト内にある「モラル・マシン」のページです。

昨年だったか、ちょっとネット上で話題になったのでその時に見知ったという方もおられるかも知れないですね。

「審査する」ボタンをクリックすると複数のケースメソッドが順次提示されます。1つ1つのケースメソッドの解を選ぶのは二択です。どちらかを選ばなければならないとなると結構悩ましい。道徳的ジレンマに気づかされます。

人工知能を搭載した自動運転車が直面する、このジレンマ。
あなたが技術者なら、どう設計しますか? 運転者だったらどうあって欲しいですか? ぜひ挑戦してみてください。最後には、自分の判断結果と平均値との比較が可視化されます。自分でも気がつかない選択肢をとっているかもしれません。

モラルマシン(MIT Media Lab)
※リンク先は日本語に翻訳されています

Moral Machine

最後にに、TEDでのイヤッド・ラーワン氏の動画「自動運転が下すべき倫理的判断」を紹介します。
モラル・マシンを先入観なしに試すなら、動画を見るのは後のほうがいいかな?

自動運転車が下すべき倫理的判断について

さて、単位認定試験が迫っているので本日はこの辺で‥。

参考

・「トロッコ問題」（路面電車問題）とは何か？
・日本学術振興会「研究倫理eラーニングコース」(無料)

(了)

ヘッダー写真 撮影地 ニュージーランド オマル ©moya