連載：「哲学ディベート――人生の論点」【第7回】AIに自動運転を任せてよいのか？

2021年6月22日より、「noteNHK出版 本がひらく」で連載を開始した。その目的は、次のようなものである。

●「哲学ディベート」は、相手を論破し説得するための競技ディベートとは異なり、多彩な論点を浮かび上がらせて、自分が何に価値を置いているのかを見極める思考方法です。
●本連載では「哲学ディベート」を発案した哲学者・高橋昌一郎が、実際に誰もが遭遇する可能性のあるさまざまな「人生の論点」に迫ります。
●舞台は大学の研究室。もし読者が大学生だったら、発表者のどの論点に賛成しますか、あるいは反対しますか？　これまで気付かなかった新たな発想を発見するためにも、ぜひ視界を広げて、一緒に考えてください！

「人生」は無数の選択で成り立っている。どの学校に進学すべきか？　どんな相手と、いつ結婚すべきか？　生きるべきか、死すべきか？　しっかりと自分の頭で考えて、自力で決断するために大きなサポートとなる「人生の論点」の「哲学ディベート」を紹介していくつもりである。乞うご期待！

教授　本日のセミナーを始めます。テーマは「AIとの共存」です。
「AI（Artificial Intelligence）」（人工知能）の能力が飛躍的に向上するにつれて、近い将来にはAIやロボットが人間に代わって多くの仕事を遂行するようになると予測されています。そこで重要になってくるのが、社会において人間とAIの共存をどのようにすればよいのかという問題です。
　今日は、これから理学部のD君に「AIに自動運転を任せてよいのか？」という問題を提起してもらいます。その後で「哲学ディベート」を行いますから、どのような論点から肯定あるいは否定するか、頭の中でよく整理しながら聴いてください。

理学部D　それでは、発表いたします。
　最近、「近い将来にAIが人間の仕事を奪う」というタイプのニュースをよく見かけるようになりました。僕は大学院に進学するので、就職するのが今から数年後になりますから、その頃にどれだけの仕事が機械化されているのか、なおさら興味があります。そこで調べてみようと思ったのがAIによる「自動運転」の話です。
　昨年の今頃、茨城県境町が日本の自治体で初めて「自動運転バス」を導入したというニュースを見て、ついに「自動運転」が実用化されたのかと、ビックリしたことを覚えています。
　2020年11月の導入からちょうど1年が過ぎましたが、その間、とくに事故や大きなトラブルはなかったようです。当初は平日のみの運行だったものが、2021年8月からは土日も運行し、路線も拡大されて、現在の停留所は26カ所になっています。運賃は、境町が負担して無料だということですから、町民にとっては、ありがたいことでしょうね。
　境町は、「世界最高技術水準」と評価されているフランスの「NAVYA（ナビヤ）」社の自動運転電気バス「ARMA（アルマ）」を3台購入し、「さかいアルマ」と名付けています。このバスは、堺町の役場・郵便局・病院・銀行・小学校・高速バスターミナル・観光施設などを通る往復約6～8キロメートルの路線を時速20キロで走行します。
「さかいアルマ」の運営を境町から委託されている株式会社ボードリーは、バス路線の「高精細3Dマップ」からバスが走行する「運行ルート」を作成します。そこで重要になるのが、バスの位置をリアルタイムで正確に把握することです。
　位置測定といえば、スマホなどにも搭載されている「GPS（Global Positioning System）」（全地球測位システム）がよく知られていますが、GPSは状況によって数メートル以上の誤差が生じることがあり、とても自動運転には使用できません。
　そこで開発されたのが「LiDAR（Light Detection and Ranging）」（光による検出と測距）と呼ばれる光を用いたリモート・センシング技術の応用です。自動運転バスは、自分を中心に360度パルス状にレーザーを照射し、その散乱光を測定することによって、障害物の位置や距離、その対象が人間なのか自転車なのかなどの性質を分析します。その状況は、遠距離から数センチメートルの誤差範囲内でモニタリングできます。
　境町の場合、「河岸の駅さかい」のオペレーション・ルームでオペレーターがバスの運行状況をモニターし、さらにセーフティ・ドライバーが同乗してコントローラーで操縦します。
　現在の「さかいアルマ」は、路上駐車などの障害物があるとビープ音を発して自動停止する仕組みになっているため、セーフティ・ドライバーが再発進させるわけです。また、信号機があると、青でも一旦停止するため、その都度ドライバーが再発進させています。
　要するに、「さかいアルマ」は、予め設定された「見えないレール」の上を低速で走行する電車のような自動運転バスで、信号や障害物があると自動停止する仕組みになっているため、セーフティ・ドライバーの同乗が不可欠というのが現状です。
　近い将来、信号機から「何秒後に色が変わる」という情報を自動運転車に送信できるようになれば、セーフティ・ドライバーの介入は、子どもや自転車の飛び出し、追い越しや対向車が車線をはみ出した場合などに生じる急停車時に限られるそうです。
　ただし、現在の「さかいアルマ」はコスト・パフォーマンスが悪すぎるという批判もあります。そもそも境町の人口約24,000人に対して、境町が5年計画で自動運転車のために組んだ予算が5億2千万円（内1億5千万円が車両3台の代金）です。自動運行には、システム設計・運営やオペレーターとセーフティ・ドライバーの人件費などが必要なので、ここまで膨れ上がったわけです。
　境町の報告によれば、2020 年 11 月 26 日に自動運転バスの運行を開始し、8カ月間に、のべ約 3,100 人の乗客が利用したそうです。仮に、この利用比率が続けば、5年間の利用総数は、のべ23,250人の計算になりますから、乗客1人の利用に2万円も掛かる計算になります。
　しかも、「さかいアルマ」は、制限速度30キロの一車線道路を時速20キロでノロノロと走るので、急いでいる自家用車やタクシーが追い抜いていき、その都度バスが急停車している状況です。現状からすれば、普通のワンマン・バスを走らせるほうが、遥かにコスト・パフォーマンスもサービス内容もよいはずです。
　一方、いずれにしても「さかいアルマ」は、すでに自動運転レベル3からレベル4に達しているという見解もあります。つまり、完全自動運転を意味するレベル5の一歩手前と評価し、AIによる完全自動運転に近づいてきているのだから、初期費用が掛かっても仕方がないという意見もあるわけです。
　僕が問題提起したいのは、「AIに自動運転を任せてよいのか？」ということです。

教授　D君、どうもありがとう。わかりやすく発表してくれました。
　少し補足しておくと、今D君が触れた「自動運転レベル」というのは「SAE（Society of Automotive Engineers）」（米国自動車技術者協会）がレベル0からレベル5までの6段階に区分した自動運転レベルのことだね。
　レベル0の「運転自動化なし」は、ドライバーがすべての運転を行うこと。「速度超過警告装置」のように、制限速度を超えたときにドライバーに警告するとはいえ、速度制限を守るか否かの判断がドライバーに任されるようなシステムは、まだこの段階とみなされる。
　レベル1の「運転支援」は、システムがアクセル・ブレーキ操作あるいはハンドル操作のいずれか一方の車両制御を実行すること。たとえば、車両の速度を自動的に制限する「自動速度制御装置」や「衝突被害軽減ブレーキ」あるいはセンサーで車両の周囲を確認し安全に車線変更できるよう支援する「車線変更支援」などの一方だけを備えた車を指す。
　レベル2の「部分運転自動化」は、システムがアクセル・ブレーキ操作およびハンドル操作の両方の車両制御を実行すること。たとえば、前走車に追従する「アダプティブ・クルーズ・コントロール」と車線内走行を維持する「レーン・キープ・コントロール」の両方を備えた車を指す。
　この段階でも、ドライバーは周囲の状況を常に監視し続けなければならないが、整備された高速道路のように一定の速度で車線内を走行する際には、一時的にハンドルから手を離すことができる。したがって、ドライバーの「ハンズオフ」が可能な段階といえる。
　レベル3の「条件付運転自動化」は、限定された条件下でシステムがすべての車両制御を実行すること。この段階でもドライバーの同乗が必要で、システムが警告を発した際には、ドライバーが迅速に対処しなければならない。ただし、この段階になると、ドライバーが運転状況から目を離すこともできる「アイズオフ」が可能な段階といえる。
　レベル4の「高度運転自動化」は、限定された地域においてシステムがすべての車両制御を実行すること。たとえば、自動運転車専用道路における自動走行や一定の地域内だけ低速で走行するケースなどで、万一の場合も遠隔操作で対処する。この段階になると、ドライバーが乗車して運転操作をする必要がなくなるので、「ブレインオフ」と呼ばれる。
　そしてレベル5の「完全運転自動化」は、すべての意味においてシステムが全自動的に車両制御を実行すること。この車は、ドライバーの運転操作が完全に不必要になるため、従来のアクセル・ブレーキ・ハンドルなどの装置そのものが存在しない、まったく新たなコンセプトのAI車になるだろうと予測されている。

文学部A　最近の自動車には、車両の前後にカメラが付いていて周囲をモニターできたり、それらの情報を利用して駐車場の空いた位置にスムーズに駐車させる「自動駐車装置」が付いていたりして、大変便利になったことは事実だと思います。
　今後も、そのような意味でドライバーの運転を支援する性能は進歩していくことと思いますが、その段階からドライバーが同乗する必要がなくなるレベル4までには、大きな隔たりがあるように感じます。というのは、運転にはどうしても人間のドライバーの存在が欠かせないと私は考えるからです。
　ですから、私は、AIが人間と同じような意味で自動運転するというレベル5の考え方には、非常に違和感を覚えます。悲観的で申し訳ないのですが、私は、そんな完全自動運転車のようなものは、永久に完成しないのではないかと思っています。
　もしそのような完全自動運転車があったら、その車を支配するAIは、たとえば子どもや自転車が道路に飛び出してきたり、対向車が道路をはみ出してきたり、あるいは山道で急な落石があった場合のように、ありとあらゆる状況において、人間と同じように判断できるということになりますよね？
　そのような判断のできるAIを創り出すということは、すなわち人間と同じレベルのロボットを創造するのと同じことを意味します。それは、とてつもなく難しいのではないでしょうか？
　先生の「論理的思考法」の授業で「トロッコ問題」の現代版として自動運転車にどのような倫理観をインプットすべきかという問題を扱いました。
　自動運転車が時速60キロで走行していたところ、その5メートル先に、突然5人の子どもたちが交通ルールを無視して、ボールを追いかけて飛び出してきたとします。自動運転車は即座に急ブレーキをかけますが、そのまま進めば5人に衝突することは避けられません。
　そこで、自動運転車は2メートル先の別の道に曲がろうとしますが、その道には横断歩道があって、2人の老夫婦が青信号で手を挙げて渡っています。自動運転車はどうすればよいのか？　功利的に5人の若い命を救うために老夫婦2人に衝突すべきだという考え方と、道徳的に交通ルールを守る老夫婦を犠牲にすべきではないという考え方で議論になりました。
　私は、もし自分が車を運転していて、そのような状況になったらどうするべきか、ずっと考えていたのですが、結局、答えは出ませんでした。交通ルールは遵守すべきなので、ルールを破って飛び出してきた5人の方に突っ込んでもやむを得ないと思う反面、もし実際に目の前に5人の子どもがいたら、反射的にハンドルを切って、老夫婦2人の方に突っ込むかもしれません。
　いずれにしても、その場合は刑事と民事で裁判になるでしょうし、やむを得ない状況だとはいえ、人を傷つけてしまった以上、何らかの責任は私が負うことになります。しかし、AIに「責任」を負うことはできるのでしょうか？
　仮にこの事故で子どもあるいは老夫婦を亡くした家族がいるとして、私という人間のやむを得ない判断に基づく結果であることをわかってもらえたら、辛くとも事情を把握してもらえるだろうと思います。しかし、もし最初から多人数の方を救うべきだとか、あくまで交通ルールだけを優先するといったインプットに基づくAIの判断による結果だとすると、遺族は納得できないのではないかと思います。

法学部B　たしかにA子さんの言う通り、AIは責任を負うことができないので、そのような事故が起こったら、結果的にそのAIをプログラムした会社に責任が生じるのではないかと思います。
　そう思って調べてみたら、2018年3月18日、アメリカのアリゾナ州テンピで、配車サービスのウーバー・テクノロジーズが試験走行していた自動運転車が、歩行者をはねて死亡させた事件がありました。
　亡くなった49歳の女性は、横断歩道ではない場所で自転車を押しながら、道路を渡っていました。自動運転車のAIは、この自転車と女性を「静止物体」と認識したため、その動きを感知できず、衝突の危険性を判定できなかったため、警報を発しませんでした。
　この車にはセーフティ・ドライバーが乗っていて、前方を注意していたら、簡単に回避できたはずの事故でした。ところが、このドライバーは自動運転車を「自動運転モード」に設定したまま、スマートフォンでテレビ番組を見ていたのです。
　2020年9月15日、アリゾナ州検察当局は、このセーフティ・ドライバーを「過失致死罪」で訴追しました。これに対して、セーフティ・ドライバー側は、警報を発しなかったAIの判断が間違いだと無罪を主張しています。この裁判は2021年2月に始まっていますが、まだ結果は出ていないようです。
　いずれにしても、そこで驚いたのは、検察当局がウーバー・テクノロジーズには「刑事責任を問わない」と表明したことです。おそらくアリゾナ州法にはAIに対する訴追条項がなく、これはアメリカの連邦法や世界の法体系でも同じことでしょう。したがって、今後AIが人間と同等の判断をくだすようになれば、当然AIに対する法的責任を明確化する必要があると思います。
　日本では、あくまでドライバーによる手動運転がメインであるとはいえ、「条件付運転自動化」のレベル3に対応するため、2020年4月に「道路交通法」と「道路運送車両法」の改正法が施行されました。
　自動運行装置は「プログラムにより自動的に自動車を運行させるために必要な、自動車の運行時の状態及び周囲の状況を検知するためのセンサー並びに当該センサーから送信された情報を処理するための電子計算機及びプログラムを主たる構成要素とする装置」であり「自動車を運転する者の操縦に係る認知、予測、判断及び操作に係る能力の全部を代替する機能を有し、かつ、当該機能の作動状態の確認に必要な情報を記録するための装置を備えるもの」と規定されています。
　改正法によれば、自動運転システム作動時、ドライバーは車両周辺の監視を行う義務を免除されます。ただし、システムから運転の要請があった際には、ただちに運転操作に戻れることが条件となっています。
　ここで僕が大きな問題だと思うのが、アリゾナ州の例のように、自動システム作動中にドライバーが車両周辺の監視を行わず、さらにシステムからの警報もない状況で、自動運転車が人身事故を起こしてしまうケースです。
　というわけで、レベル3以上の自動運転に対する法的責任をもっと明確に整備しない限り、安易にAIに自動運転を任せるべきではないと僕は考えます。

経済学部C　私も、B君が言うようにAIに関する法律はしっかり整備しなければならないと思います。それにA子の話に出てきた「トロッコ問題」のような「究極の選択」が生じたら困るという意見もわかります。
　ただ、そのような事態になったら、人間であろうとAIであろうと、誰もが納得するような判断はありえないでしょうから、そのような事態が生じないように交通環境を整備すべきだと思います。
　たとえば、道路沿いに防護柵を設置して子どもが道路に飛び出さないようにするとか、自転車専用道路を増やすとか、中央分離帯を設置して車が対向車線にはみ出さないようにするようにして、歩行者と自転車と自動車の配置が完全に安全な場所でしか、自動運転車は走らせないようにすればよいと思います。
　私自身は、楽観的過ぎるかもしれないけど、AIに自動運転を任せられるようになれば、メリットはたくさんあると感じています。
　私の家は、伊豆に別荘があるので、よく週末に家族で出掛けるんですが、せっかくランチタイムに皆で美味しい料理を食べても、父は運転しなければならないので、大好きなワインを飲めません。でもAIに自動運転を任せられるようになれば、飲酒も気にすることはないし、周囲の景色を楽しんだり、車内で映画を観ることもできるでしょう？
　家族で電車の個室に座っているような環境で、しかも行きたい所に動けるわけですから、もしそんなAIによる完全自動運転車が実現したら、すばらしいことだと思います。

医学部E　僕も、いずれはAIに全面的に自動運転を任せなければならない時代が到来するに違いないと思います。というのは、実は現在の交通事故の大部分は「人為的ミス」から生じていることがわかっているからです。
　人間の両眼は基本的に前方しか見えないし、いくらベテランの運転手でも、視覚には何カ所かの「死角」があることがわかっています。AIの自動運転車は、車を中心に周囲360度の情報を得ることができるし、AIがわき見運転するようなこともないし、他のAI自動車とうまく連携できれば、高速道路の渋滞なども解消していくでしょう。
　もちろん、どんな時代になっても、自分で車を運転したいドライバーは存在するでしょうし、その自由は確保されるべきだと思います。でも、C子さんの家族のようなケースでは、AIによる自動運転車の方が家族全員で楽しめるはずです。
　AI化の波は、すでに始まっています。日本自動車工業会によれば、2018年に販売された新車のうち「衝突被害軽減ブレーキ」を装着した車は84.6％でした。国土交通省は、以前から2020年までに装着率を90％以上にするという目標を掲げ、2021年11月からは「衝突被害軽減ブレーキ」装着が「義務化」されています。この対策によって、いわゆる追突事故は大幅に減少するものと思われます。
　たしかにA子さんが批判しているように、このような「部分運転自動化」に関わる機能と、AIがアクセル・ブレーキ操作とハンドル操作の全般を判断しながら行う「完全運転自動化」の間には、大きなギャップがあります。しかし、そのギャップも科学技術の発展により解消されていくものと思います。
　僕がそのように予測する理由は、次のような事例があるからです。そもそもコンピュータが進化して「ポスト・ヒューマン」の時代が来ると2005年に予測したのは、人工知能研究の第一人者として知られるアメリカの発明家レイ・カーツワイルでした。
　1991年、ヒトのすべての遺伝情報である「ヒトゲノム」の30億を超える塩基配列を解読する国際協力作業が始まりましたが、7年が経過した1998年になっても、解読されたのは1パーセントに過ぎませんでした。そのため、多くの遺伝子学者が「このままでは作業終了までに700年かかる」と落胆していました。この状況は、AIによる「完全運転自動化」は程遠いと批判している人々の発想に似ています。
　ところが、カーツワイルは、「1パーセント終わったということは、ほとんど作業は終了したと言ってもいいだろう」と述べて周囲を驚かせました。彼は「解読作業は毎年、指数関数的に速くなるから、2年目には2パーセント、3年目には4パーセント、4年目には8パーセントと進む。だから、あと7年もすれば解析は終わるはずだ」と予測しました。そして、2003年、カーツワイルの予測よりも2年早く、「ヒトゲノム解読完了宣言」が出されたわけです。
　カーツワイルの主張は、「収穫加速の法則」に基づいています。ある重要な発明が行われると、それは他の発明と結び付き、次の重要な発明の登場までの時間を短縮させます。したがって、科学技術が指数関数的に進歩すると、収穫までの時間も指数関数的に速くなるわけです。
　現在のAIによる自動運転はレベル3程度でしょうが、これから指数関数的にさまざまな技術が結び付けば、思ったよりも早くレベル4やレベル5が出現するのではないかというのが、僕の予測です。
　むしろ、その急速な科学技術の進歩に負けないように、AIに関する法律や共存の哲学などを定式化することの方が喫緊の課題だと考えます。

教授　「AIに自動運転を任せてよいのか？」という問題から「AIによる判断」や「責任のあり方」や「共存の哲学」に関する哲学的議論が抽出されました。本当に難しい問題だと思いますが、このディベートを契機として、改めて自分自身で考えてみてください。

参考文献
BBC, “Uber's self-driving operator charged over fatal crash”
https://www.bbc.com/news/technology-54175359
Ray Kurzweil, The Singularity Is Near, Viking, 2005.［レイ・カーツワイル（井上健監訳／小野木明恵・野中香方子・福田実訳）『ポスト・ヒューマン誕生』NHK出版、2007.］
朝岡崇史「茨城『河岸のまち』で自動運転路線バスに乗ってみた」JDIR
https://jbpress.ismedia.jp/articles/-/64930
茨城県境町「8 カ月間の安定運行を経て、境町の自動運転バスの走行経路を従来の 4 倍の約 20 キロメートルに拡大」
https://www.softbank.jp/drive/set/data/press/2021/shared/20210730_01.pdf
小林香織「『自動運転バス』実用化から約1年、茨城県境町の変化は？」ITmediaビジネスオンライン
https://www.itmedia.co.jp/business/articles/2111/03/news010.html
高橋昌一郎『20世紀論争史』光文社新書、2021．
日本自動車工業会「日本の自動車工業2020」
https://www.jama.or.jp/industry/ebook/2020/PDF/MIoJ2020_j.pdf
マクニカ「自動運転のレベル分けとは？レベル0～5までを一挙解説」
https://www.macnica.co.jp/business/maas/columns/135343/

哲学ディベート 〈倫理〉を〈論理〉する (NHKブックス)

#エッセイ #コラム #読書 #推薦図書 #哲学ディベート #思考方法 #高橋昌一郎 #NHK出版 #NHKブックス #人生の論点 #AI #自動運転