現代版トロッコ問題｜自動運転車はどちらを選ぶべきか？
今日は、いわゆる「究極の選択」問題について考えてみます。
少し前に読んだ『ニュートン別冊 パラドックス大百科』という本に「現代版トロッコ問題」というべき難問が載っていました（私が購入したのは下のよりも一つ古い版なので、内容が変わってる可能性があります）。
簡単にまとめると、以下のような問題です。
【問】
道路を走っていて遭遇した以下のような「二者択一の」状況において、自動運転車は、どのような選択をするべきだろうか？
A：真っ直ぐ進むと、5人の子どもたちが、信号を無視して道路を渡ろうとしている。
B：右斜め前方にハンドルを切ると、2人の老夫婦が、青信号を渡っている。
今から自動運転車が止まることはできない。さて、どうするべきか？
これは、非常に有名な「トロッコ問題」のオマージュです。トロッコ問題と違うのは、走っているのがトロッコではなく自動運転車である、ということ。
ポイントを整理すると、
・Aの道：真っ直ぐ進む／5人／子ども／信号無視
・Bの道：ハンドルを切る／2人／老人／青信号（信号遵守）
以下に私の考えを書きますので、よかったら、少し考えてみてから読み進めてください。
・
・
・
さてさて、どうだったでしょうか。
結論から書きます。私は「自動運転車はBの道を選んだほうがよい」と考えました。もちろん正解がない問題ですので、あくまで私の考えです。
以下に、その説明を書きます。
●問題点の整理〜個人の感情ではなくルールを作る〜
まず、考えるべきポイントを整理します。
これが通常のトロッコ問題と大きく違うのは、場所がレールの上か道路かではなく、運転者が人間かAI（人工知能）か。でしょう。
元祖トロッコ問題の主人公は人間です。しかも個人です。その場合の議論は「あなたならどうしますか？」という場所からスタートします。
しかし、今回の主人公は人間ではありません。ということは、私たちに求められているのは「自分ならどうするか」ではなく、はたまた「人間という生き物がどうすべきか」でもなく、「この選択を全ての自動運転車にプログラムする場合はどうすべきか」となる。つまりこの問題はかなり広い視野をもって解かなければならないものだと、私は考えました。
一回の選択ではなく、複数回同じ選択が為される可能性がある、ということです。言い換えれば、この問題は単なる究極の選択ではなく「今後のルールを定める」という意識で考えるべきではないかと思うのです。
●問答無用で優劣がつけられる条件はどれか？
「今後のルールを定める」という意識で考えてみます。今私が考えていることが、仮にそのまま自動運転車全体の指令になってしまっても、それでよいのか？という意識です。
条件を再度比較してみると、
・Aの道：真っ直ぐ進む／5人／子ども／信号無視
・Bの道：ハンドルを切る／2人／老人／青信号（信号遵守）
このうち、誰がどう考えても優劣がつく条件はどれでしょうか？
◎真っ直ぐ進むべきかハンドルを切るべきか、は、単なる道の構造の話なので、それ自体で優劣がつけられるものではありません（トロッコ問題と違って人間の能動性云々は関係ないため）。
◎人数が5人か2人か。「5人を生かすべき」という意見に反論の余地は少なそうですが、これは「命の価値を数ではかれるのか」という論争にもなりえます。
◎子どもか老人か。一般的に「子どもを生かすべき」という人が多そうですが、一方で「老人に敬意を払うべき」という意見もありそうです。
◎しかしおそらく、「信号を無視しているよりも信号を遵守しているほうが良い」、これはほぼ確実ではないでしょうか。逆のことを言う人はいないと思います。
……というわけで、このように個別の条件を比較した場合に、絶対的に優劣がつけられるのは「信号」つまり「ルールを守っているかどうか」と考えられます。
●人工知能の能力はどこまで確かか
しかし、これだけでは「B」を選ぶ理由としては弱いと感じます。なぜなら、「5人」「子ども」という2つの条件が「A」に有利な状況で、それを覆すほどの強さが「B」にあるか──と問われると、単なる個人の感覚になってしまうからです。
では私がなぜ「B」を選んだか。それはひとえに「人工知能の判断能力がまだ不完全だから」です。
例えば、「より人数が少ない道を選べ」と車にプログラムしたとします。でも、現状の人工知能の能力でその判断が確実に行われるでしょうか？私は、行われないと思います。仮に超高性能なX線技術があれば、正確に人間の数を把握できるかもしれませんが、現在走行している自動運転車に（コスト的に）その性能が搭載できるとは思えません。しかも、スピードが出ている場面です。そのような負荷のかかる処理を100%に近い正確性で行うことは、現状では不可能ではないかと思います（あくまで素人の考えですが）。
同様に、「平均年齢がより若いほうの道を選べ」というプログラムが機能するでしょうか？これは人数よりもっともっと難しいでしょう。人間ですら、人間の年齢を判別するのは容易ではありません。
論点としては、このように不確実な判断を自動運転車にさせるべきか？ということです。
もしその判断が間違っていた場合に──例えば1人の若い少年が歩いていたのに、2人の年老いた男性と「誤って」判断されて、その道が「選ばれた」場合に──それが世間に認められるか、ということです。
私は、混乱を避けるためには少なくとも今はまだ、曖昧な指標を判定基準に用いるべきではない。と考えました。一方で「青信号か赤信号か」は明確なルールであり、プログラムすればほぼ確実に自動運転車の判定基準に使えるでしょう。よって、曖昧な指標は全て排除し、ただ「ルールを守ったかどうか」だけで道を選ぶよう、プログラムすべき。以上が私の考えです。
●今後、どうなるか
この問題は「今後のルールを定める」ものだと最初に書きました。
もしこのようなプログラムをした場合に、どうなるか。そのことも考える必要があります（実は最初、こちらを先に考えていました）。
まず、自動運転車を普及させるために、道路のルールをより明確にする必要性が出てくるでしょう。ルールのない道（例えば信号のない分かれ道など）では、上述のような選択を人工知能がとることができなくなるからです。全ての道に、よりハッキリとしたルールづけが必要です。言うまでもなくそれは自動運転車にもインプットされるべきです。
そして、今以上に歩行者である人間がルールを守る必要性が出てきます。なぜなら、これまでのように「アイコンタクトでドライバーと通じ合う」ということはできなくなり、下手すれば死ぬかもしれないからです。
そこにおいて、人数とか、老若男女とか、妊婦とか、身障者とか、そういった区別は当分はなされない──と私は考えています。そういった識別能力がたかが「車」に備わるためには、おそらくそれなりに長い年月が必要とされるからです。
・
私はこんな風に考えました。元祖トロッコ問題よりいくぶん考えやすい問題だと個人的には感じていますが、いかがだったでしょうか。
参考文献
参考記事
この記事が気に入ったらサポートをしてみませんか？