倫理的な自動運転車を実現するためにはどのようなデザインが求められるか
※このインタビューは2024年3月27日に収録されました
自動運転を始めとした既存の産業とテクノロジーが交わるにあたり、倫理的なテクノロジー活用がより重要になりつつあります。
今回はオーストラリアのスウィンバーン工科大学で市民エンジニアリングと建設技学部門のフセイン教授に自動運転の未来と倫理的なテクノロジー利用ついてお伺いしました。
自動運転を実現するためにプライバシーやセキュリティ問題をどのように捉えるとよいか
Hussein: ありがとうございます。このテーマも非常に重要なお話です。長期的には、プライバシーとセキュリティへの配慮が成功のカギを握っていると思います。倫理的な観点からは、3つのポイントが自動運転を検討する上で重要になっていきます。
自動運転の精度を高めていくためには多くのデータを収集し、アルゴリズムを世界中で教育していく事が求められます。アルゴリズムが、乗客と乗用車、バス、カンガルーが公道を横断している等の対象を理解できるような教育が必要なのです。
一つ目は、このようにデータを教育目的で利用していくにあたり、データのバイアスというのが大きな問題になっていきます。データをいくら活用したとしても、本来意図する目的を達成できなければ意味がありません。これまでにあったケースとして、自動運転車に搭載したソフトウェアが対象となる子供や利用者の肌の色を十分に識別できるほど教育されていなかったケースがあります。
もしアルゴリズムに教育する過程で、必要なデータとして多様な画像や動画が含まれずに教育が行われていた場合には、十分に利用者を分類して識別する事ができず、最終的には歩行者や子供に衝突してしまう可能性があります。
二つ目のポイントは公正さです。アルゴリズムを教育するデータはヒストリカルデータと呼ばれるもので、過去データを参照する形になり必ず最適な状態を反映するものではありません。
過去に不正な判断を実施したデータを取り込むことになったり、特定のグループを騙したり、差別するようなデータの設計になっている可能性もあります。
三つ目のポイントはAIを搭載した自動運転モデルが非倫理的な行動に出てしまうケースです。アルゴリズムの教育に用いられたデータが社会通念上のモラルに反するような設計になっていたり、最適な形で行動するように設計されていない場合が該当します。
わかりやすい例を紹介すると、偽のデータや偽の情報を教育モデルに読み込ませるケースが該当します。このような行為が行われることによって、バイアスのかかった結果を計算することになり、セキュリティやプライバシー上の懸念も高まることになります。
AI開発者はこのようなバイアスがかからないように十分配慮することが求められます。できる限りバイアスがかからないようにするためには多様な視点を加える事が必要です。私は異なる背景や専門性を持った人たちが集まり、できる限り異なる考えをメンバー間で共有することが大切であると考えています。
開発に関わるメンバーは多様性や人々のモラルを理解し、多様なデータをもとにした設計に関わることが求められます。一つのデータソースだけに頼るのではなく、複数のデータソースをもとにして設計していくことが必要です。
（動画：The ethical dilemma of self-driving cars - Patrick Lin）
最後に、AIの開発は加速度的に進んでいるのでAIと異なるソリューションを導入する際にはいつも異なる仕組みについて検討する事が必要です。これまでに紹介してきたバイアスの問題を解決するためには、いくつものアルゴリズムを用いて検証することが必要になります。
同じデータで検証する場合にも異なるアルゴリズムを採用しながら、最終的に最適なものを選択するようにします。自動運転車を開発する上で発生するAIと倫理の問題については、分類の問題とモラルに関連する質問が論点に上がります。AIを利用することによってどのようなトラフィックが発生するのかを理解し、起こりうるリスクを未然に防いでいく事が求められます。
例えば、自動運転車のシステムが故障した場合には衝突事故が起きてしまう可能性が高まります。事故を起こしたまま外壁に突っ込んでしまったり、他の乗客にも影響が発生することもあります。従来左に曲がるところを、左にハンドルを切ってしまう操作につながってしまうことも考えられます。
誤作動によって影響を受けるのは、歩行者に他なりません。設計を進める上での分類過程でこのような問題に関する議論を整理する必要があります。
数年までにマサチューセッツ工科大学（MIT）が面白い研究結果を発表していました。この研究では、各国の異なる分野に所属している人たちから発生しうる問題に対しての意見を集めたものです。
研究結果を紐解いていくと、文化的な違いが反映されていることがよくわかりました。例えば、若者よりも高齢者の生活に対して重きを置いているか否かというような結果です。
この結果は自動運転技術を開発するメーカー企業にとっては地域ごとに対応する難しさを示したことになりますが、一方で置かれた状況ごとに考え方が異なるというのは重要な示唆を示しています。
国ごとに期待値が異なる中で、各国の特色や期待値に合わせた車設計が求められることになります。
Kohei: AIと倫理的な問題については、開発者だけでなくメーカーにとっても大きな挑戦になりそうですね。
フセイン先生のおっしゃる通り様々なステークホルダーが連携して取り組むべき問題だと思います。先程お話し頂いた多様性の観点について、Youtubeで興味深いコンテンツを投稿されています。今後倫理的な開発環境を整えていく上でも非常に参考になる内容です。
フセイン先生のこれまでの経験から、私たちは自動運転を搭載したモビリティの未来を考える上でどのようなモデルをデザインしていく事が必要になるのでしょうか？
多様なステークホルダーが参加し、これまでに無かった視点や考え方を取り入れる事が必要になると思いますか？
倫理的な自動運転車を実現するためにはどのようなデザインが求められるか
Hussein: 今後自動運転車に対する規制やサービスデザインを検討していく上で、モラル的な要素を十分に検討した上で、エビデンスや十分な情報を持って整理していく事が必要になると思います。
MITの調査によると、モラルに対する考え方も国ごとに違いがある事がわかっています。国ごとに異なるAI技術を設計し、デザインしていくことは現実的ではありません。
（動画: Moral Machines: How culture changes values）
私はこれまでの研究結果を通して、国ごとの違いに関係なく一定の検討を実施することが重要であると考えています。仮に車がコントロールを失ったとした際に、どういったケースが最も恐るべきで、どのような決定を行うべきかを考慮しておく必要があります。
このような倫理的な規範については、商業目的とは分けて考える事が必要です。AIアルゴリズムの開発者や車メーカーが主導して考えるものであってはいけません。規範に関する決定については、商業利益よりも我々利用者の社会的な合意を持って前に進めていくことが必要になります。
今後事故が起こってしまった際には、自動運転車は乗客を守るために設計されているとメーカーは説明することになるでしょう。これは私たちの社会が望んでいることでしょうか？
もし乗客を守るための設計が車に施されていないとすれば、誰も車を買うことはないでしょう。ただ、このような決定については社会に許容されるものでなければならず、規制を検討する方々や車メーカーも知り得ておくべき内容です。
どこの国でサービスを展開する場面であったとしても、車メーカーは社会全体でのモラルの特性を理解する事が求められるのです。
Kohei: ありがとうございます。商業利益の追求だけでなく、社会モラルについても十分に検討することが必要だと感じました。その為にも、異なるステークホルダーとの取り組みが重要であることも理解しました。
最後にフセイン先生から視聴者の皆様へメッセージをお願いしたいと思います。フセイン先生の活動はとても重要な内容だと思うので、ぜひ視聴者の方にも知ってもらいたいと思います。
AIと輸送機が実現するこれからの新しい未来
Hussein: ありがとうございます。私からは、ぜひ視聴者の方にモビリティ業界に関心を持ち続けて欲しいと思います。AIと輸送機の未来はより広く発展し、面白い分野になると思います。
常に新しいイノベーションが生まれ、前に進んできています。AIがより広がっていけば、これまで解決できなかった私たちが抱えている問題の解決に向けて、大きく進展していくことになると思います。
既に様々なAIソリューションやアプリケーションが利用できるようになってきています。安全な道路開発や衝突防止、事故による死者数の現象、渋滞管理、より信頼できる公共輸送インフラの改善を始めとして様々な分野へテクノロジーが応用されていくでしょう。
今後はメンテナンス管理等でも応用できるようになると思います。本日お話しした通り、AIと倫理に関する問題については、検討すべき事が沢山残されています。
ただ、AIを導入したアプリケーションの中身がきちんと計画されたものであれば、AI技術を応用することで私たちの輸送機器環境を大きく変革し、地球にも優しい持続可能な価値を生み出すものになると信じています。
Kohei: とても重要なメッセージを頂きありがとうございました。改めて、本日はフセイン先生と、モビリティとAI、そして倫理に関するテーマでお話しさせて頂きありがとうございました。このテーマは、未来のプライバシーやセキュリティを語る上で非常に重要なお話しだったと思います。
引き続き、フセイン先生のご活躍を楽しみにしております。
Hussein: ありがとうございます。本日は貴重な機会にご招待頂きありがとうございました。
Kohei: ありがとうございます。
データプライバシーに関するトレンドや今後の動きが気になる方は、Facebookで気軽にメッセージ頂ければお答えさせて頂きます！
プライバシーについて語るコミュニティを運営しています。
ご興味ある方はぜひご参加ください。
Interviewer, Translation and Edit 栗原宏平
Headline Image template author 山下夏姫
この記事が気に入ったらサポートをしてみませんか？