自動運転車はエンジンすらかけられないかもしれないよ、という話

自動車教習所や運転免許の更新に行くと、「だろう運転はダメです」とか「かもしれない運転を心がけましょう」というお話を耳にします。だけど、本気で究極の「かもしれない運転」をAIを用いた自動運転車に実装すると、もしかするとエンジンすらかけられないのかもしれないよ、という哲学のような話題です。

クルマを運転するためには、まずエンジンを始動します。しかしこの時、普段は私たちがあまり気にしていないだけで、実は色々なリスクが考えられるのです。

・エンジンルームに猫が入り込んでいないか
・ガソリンが漏れて引火したり爆発したりしないか
・マフラーが塞がれていて室内に一酸化炭素が充満する危険性はないか
・クレイジーな人間が車体の下に隠れていないか

可能性の大小は別として、考えれば考えるほど色々な可能性があり、いずれも発生する確率は0%とは言い切れません。
人間相手にこんな話をすると、心配しすぎだと馬鹿にされるのは目に見えています。ところがAIの世界ではこんなことが大真面目に研究されていて、大きな課題のひとつとして認識されているのです。

こんな話を聞くと、「AIバカなの？」という意見をもつ人も少なくないです。ここから、やっと今回の本題である「自動運転車はエンジンをかけられないかも」という話題に移ります。

先ほどは人間的な思考の観点から考察してみましたが、AIの観点から考えるともっとクレイジーな世界観に変わります。

・エンジンをかけたことによりどの程度の二酸化炭素が排出されるのか。それによって地球温暖化を悪化させないか
・エンジンをかけたことにより、周囲の動物に刺激を与えてしまい危害を加えられる確率はないか
・エンジンをかけたことにより、建物が倒壊してくる確率はないか
・エンジンをかけたことにより、道路が陥没する確率はないか
・エンジンをかけたことにより、、、以下略

上記はほんの一例で、一見ふざけているようにも見られます。だけど、すべて「クルマのエンジンをかける」というイベントから発生しうるリスクであることに違いありません。

AIが上記のような事柄を考え始めると、もはや収集がつかないほど膨大な処理を実行することになります。コンピュータのスペックというか処理能力によっても変わりますが、あまりにも膨大な事柄を考えすぎてしまい、リスクを完全に排除できず、いつまで経ってもエンジンをかけられない、、、という事態に陥ってしまう可能性があります。

「そんなの、考えなきゃ良くね？」と思う方も多いでしょう。確かにその通りなのですが、何をどこまで判断するか、そのラインは人間が決めなければなりません。周囲の状況を見て、何をもって異常と判断するのか。ひとつひとつの条件分岐やライブラリを設定するのは簡単なことではありません。

このような問題は「フレーム問題」とよばれていて、実は1960年代から提唱されてきたものです。仮にリスクとして考えられる物事が100以上あるとしたら、とりあえず限りなく可能性が低い90の項目は排除しておこうよ、という考え方です。全体の中から一部をフレームで切り取ったようなものであることがその名前の由来です。

現実問題として自動運転車がエンジンをかける際には、フレーム問題の考え方をもって解決するほかないでしょう。しかし、クルマは人の命を預かるものである以上、どの範囲を「フレーム」として設定するのかは慎重にならざるを得ない現実があるのも事実です。