（free）自動運転は「トロッコ問題」を解決すべきか

（本記事は最後までメンバーシップ加入なしでお読みいただけます）

　管理人M2号はあれこれ言いたいことがあるかもしれないけれど、筆者としては登録不要の無料記事も書いていきたい。お金は大事だけれど、全てではない。書き手としては、読んでもらうことそのものにも意味はあるのだ。

　もちろん、有料記事でもお代に相応しい記事はアウトプットしていくつもりだし、何ならそれ以上のクオリティという自負のある決算記事は、多くの人に読んで欲しいから登録不要にしている。

今回は有料サービスが始まって以降初の無料記事である。

　筆者は現在、月に1回、レスポンス主催で、オンラインセミナー【池田直渡の着眼大局セミナー】をやっている。ちょっとお高めの価格設定なので、会社で費用を負担してくれる人がメインになると思う。ちなみについでだから料金を書いておくと以下のようになっている。

・月額9000円（税込 以下価格は全て税込）のレスポンスビジネスプレミアム会員は、レスポンスのプレミアム記事の読み放題と、セミナーが見放題。池田のセミナーの他に、中西孝樹さんの『自動車・モビリティ産業インサイト』も見られる。
・月額980円のレスポンススタンダード会員は、レスポンスのプレミアム記事の読み放題と、セミナーが会員割引価格の1万3200円で見られる。
・単発でセミナーが見たい場合は、事前申し込みで1名につき2万4750円。

　で、直近のセミナーは6月26日に開催した「第4回 ティアフォーにおける自動運転事業と開発の現場」。（株式会社ティアフォー）

　今回は編集部からの推薦があって、自動運転がテーマとなった。日頃から筆者の記事を読んでいただいている読者の方ならご存じの通り、筆者はスタンスとしては自動運転には懐疑的なので、正直少し葛藤はあった。

　ただこの話、「EVシフト」の話と同じで、「いつでもどこでも自動運転を実現する」と喧伝する輩がいるから、懐疑的スタンスを取らなくてはならなくなるのであって、条件を絞った自動運転であれば、筆者は全く否定する気はない。

　例えばすでに多くの自動車工場で実現済みの自動搬送ロボット（AGV）や、港湾や鉱山、作業所などのクローズドエリアでの自動運転ならば十分以上に現実的視野に入れられるし、それこそファミレスで見かける配膳ロボットや空港で運用する無人回送システム付きの電動車椅子など、すでに実装が進んでいるジャンルもある。

　要するに、「寝ていても」「酒を飲んでも」「無免許でも」ボタンひとつでクルマが勝手に指定先まで運んでくれる時代は、我々の目が黒いうちはおそらく無理だという話であって、できる場所でできることを実現する自動運転は決して否定しないし、そういう限定的な条件下で、算数のドリルのように、繰り返し繰り返し基礎的な経験を積み重ねて行くことで、徐々に自動運転は高度化され、進歩していく。そういう話だと考えている。

　実際今回のセミナーで取り上げたティアフォーも、現場でプログラム変更が可能、かつ安価でインフラ設備が要らない＝導入が早く柔軟なAGVシステムや、事業所内の重量物搬送用自動運転重機など、ステップbyステップで開発を進めている。

　まあ、筆者としても打ち合わせをしてみて、日頃の主張と整合が付いてホッとしたわけだ。

　で、今日書こうとしているのは、そのセミナーでの質疑応答の話。このセミナーでは、リアルタイム参加者はチャットでの質問が可能になっている。最初の数名は明らかに直接事業に携わっていらっしゃる方々で、いわゆる技術的な細かい質問があった。

　そこまでは良いのだが、最後の質問がなかなかだった。「トロッコ問題はどう解決するのか？」。

　ちなみにご存じの方も多いと思うが、トロッコ問題とは、Wikipediaによれば「『ある人を助けるために他の人を犠牲にするのは許されるか？』という形で功利主義と義務論の対立を扱った倫理学上の問題・課題」だ（こちら）。暴走して止められないトロッコがあり、行く先を二又のポイントで切り替えることは可能、ただしどちらの線路上にも人がいる、みたいな設定だ。

　質問の意図としては「AとB、どちらも回避したい状況があり、どちらかしか避けられない状況が起こったら、自動運転システムはどう作動するべきなのか」ということだろう。

　お金を払ってセミナーに参加していただいている方の質問なので、筆者もちょっと言いにくいが、正直なところ、意地悪な質問だと思った。

　いや、言いたいことはよくわかる。だけどこれを自動運転システムの開発を行う一事業者に問うのは、いくらなんでも荷が重い。案の定ティアフォーからゲスト講師として来ていただいた星名大輔氏（同社Business Unit 執行役員）も説明に窮した。

　なので、筆者が代わって答えた。まず第一にトロッコ問題はそもそもにおいて、人類の叡智ですら完全解決することができない現役のジレンマで、それこそハーバード大学のマイケル・サンデル教授が講演テーマとするような難しい話である。

　いわば、人類全体で継続的に考え続けるべき話であって、そういうことを公の場で「ほれ解決してみろ」的に投げるのは少々はしたない。

　第二に、トロッコ問題はその性質上「思考実験」であり、「どちらを救うかの二者択一しかできない」ことは実験上の仮定であって、現実世界では二択を回避し両方を救える可能性は、おそらくゼロにならない。

　さらに、そこで選択をした結果が論理的な結果と完全に合致するとも限らない。例えば死者がより少ないはずの合理的選択をしたにも関わらず、例えばトロッコがひっくり返って、線路脇の家に突っ込み、本来死ななかったはずの人が死ぬとか、非合理的な運不運で死者が増加するリスクも現実にはあるはずだ。

　であるから、「思考実験」の答えはそもそも完全な合理性だけで答えて良いと筆者は思っている。仮定の質問には仮定の答えとして合理的であればそれで良いからだ。限界的シチュエーションでの医療におけるトリアージと同様だろう。

　では現実はどうなのか。まず最初に断っておかねばならないのは、トロッコ問題は「人間ならば解決できるが、システムには解決できないという問題ではない」ということである。ここはとても重要だ。そしてトロッコ実験では無いものと仮定されている法的責任も現実世界では大きく関わってくるだろう

　リアルワールドであれば、まず何よりもトロッコ（この場合は自動運転車）を減速させる努力を払うだろう。減速装置が装備されていないのは思考実験上の話であって、現実にはそんな車両はあり得ない。そして減速させている間に、危害が及ぶ恐れのある人に対してあらゆる手段を用いて警告を発し、その上で万策尽きた場合、最後までリスクを減らす努力を払いつつ、それでも避けられなければ結果的に事故に至る。

　これは自動運転であろうが、人間の運転だろうが変わるところはない。仮に後で「違う判断をすればもっと被害を軽減できた」という結果論の指摘がされたとしても、限られた時間内で、かつ厳しい状況で、良かれとして行った判断を否定することは極めて難しいだろう。

　ということで、質問した方はおそらく知的好奇心からではあろうけれど、仮に自動運転の否定のために、人類社会が解決できていない倫理課題を持ち出したのだとしたら、少々筋が違うと思う。まあ気持ちはわかるんだけど、それでは新しいことは何も始まらない。

　あ、最後に追伸。次回のレスポンスのセミナーは、マツダの廣瀬一郎専務をゲスト講師にお招きして「マツダ カーボンニュートラルの実現に向けたエンジンの役割」となっている。7月31日開催、7月29日申し込み締め切り。