【AIと意思決定】経済学者がトロッコ問題を解決？『予測マシンの世紀 第二部』#25
※今回の記事には大きな誤解があるかもしれません。経済学の勉強不足です。。。
こんにちは。シンラボ共同代表の草場です。
AIとの共同に関して、『予測マシンの世紀 AIが駆動する新たな経済』をまとめていきます。推理小説のようで、ドキドキワクワクです。
目次
はじめに―機械知能
安さはすべてを変化させる
第１部 予測
第２部 意思決定（決断を解明する；判断の価値 ほか）
第七章 決定を解明する
第八章 判断の価値
第九章 判断を予測する
第十章 複雑さを飼いならす
第十一章 完全自動で意思決定
第３部 ツール（ワークフローを分解する；決断を分解する ほか）
第４部 戦略（経営層にとってのＡＩ；ＡＩがあなたのビジネスを変容させるとき ほか）
第５部 社会（ＡＩと人類の未来）
第二部、決断に関してです。昨日の記事は以下です。
■完全自動で意思決定
昨日は、自動化の要件をみてきました。
スピードが求められてかつ人間の判断がAIにより予測できるケース、コミュニケーションコストが高いケースは人間を排除した方がよいことがわかりました。
他のケースではどうでしょうか？法律を考慮する必要があるそうです。あるいは道徳か？本を元に見ていきます。
完全な自動化が被害をもたらす可能性があるという考え方は、SFの共通テーマとなっている。私たちがマシンの完全な自律性に満足していたとしても、法律がそれを許さないかもしれない。
アイザック・アシモフはこの規制問題を予測して、ロボットに3つの法則をハードコーディングし、ロボットが人間に危害を加える可能性を巧妙に排除することを選んだ。
マシンが完全に自動的にかつ自律的に動く世界は、ディストピアのように描かれることが多いです。ターミネーター然り、マトリックスもかな？
アシモフさんのロボット三原則は有名です。
「人間への安全性、命令への服従、自己防衛」です。人間主体の世界ですね。自動化は便利ですが、マシンが意思決定できるようになると人間の尊厳が脅かされる不安を感じてしまいます。
こういったジレンマは、トロッコ問題がわかりやすいかもしれません。
現代の哲学者は、抽象的に見える倫理的ジレンマをしばしば提起する。トロッコの問題を考えてみよう。自分がトロッコをある線路から別の線路に移すためのスイッチの前に立っているとする。あなたは、トロッコの通り道に5人の人がいることに気づいた。別の線路に切り替えることはできるが、その線路には1人の人間がいる。あなたには他の選択肢がなく、考える時間もない。あなたはどうするだろうか？
みなさんならどうしますか？なぜこのような問題が話題に上がるかというと、自動運転でこのような状況が発生するからです。
誰かがそのジレンマを解消し、適切な対応を車にプログラムしなければならない。この問題を避けることはできない。誰が生き、誰が死ぬかは、誰か（おそらく法律）が決めることになるだろう。
ロボット三原則で縛っても、この問題は解決しませんね。ほんとどう考えればよいのでしょうか？ちょっとネタ的ですが、解決策がTwitterで提示されているようです。
現状ではこのような問題は、コーディングするのではなく、人間が判断のループに入っています。本では以下の例が議論されています。
例えば、完全に自律的に動作し、敵を識別し、ターゲットを定め、殺すことができるドローン兵器を想像してみよう。
では、戦闘をすぐにこのドローンに任せていいでしょうか？おそらく誰かがこのドローン（予測マシン）を混乱させて、民間人か軍人かをわからなくする方法を思いつくでしょう。
そのため、2012年に米国国防総省が出した指令は、攻撃するかしないかの判断に人間を介入させることを要求していると解釈されている。何らかの理由で人間の介入が必要になると、予測マシンが単独で動作する可能性がある場合でも、予測マシンの自律性が制限されることになるだろう。
なんとなくですが、AIの自律性というと不安を感じてしまいます。では、経済学者はどう考えるのでしょうか？
経済学者の視点から見ると、これが意味を持つかどうかは、潜在的な被害の文脈によって異なる。例えば、遠隔地の鉱山や工場の現場で自律走行車を運転することは、公道での運転とは全く異なる。工場内」の環境が「公道」と異なるのは、経済学者が「外部性」と呼ぶ、主要な意思決定者ではなく他の人が感じるコストが発生する可能性があることだ。
外部性、初めて聞きましたが、Wikipediaにありました。
外部性は、ある経済主体の意思決定（行為・経済活動）が他の経済主体の意思決定に影響を及ぼすことをいう。一般に経済学では、ある経済主体の意思決定は他の経済主体の意思決定に影響を及ぼさないと仮定するが、現実には他の経済主体の影響を無視できない場合がある。そこで、そのような場合に対処するために考案された概念が外部性である。
むむむ？これって当たり前のような気が？工場内ではある程度目的が定まっている（例えばAmazonの工場はスムーズに配送までもっていく）ので、あるマシンの意思決定が他のマシンに影響を及ぼしづらい。しかし、公道はさまざまな人が様々な目的で運転しています。そのため、トロッコ問題のような事態が起こります。自分の行動が他の人の行動に影響するの当たり前ではないのか、、、？経済の勉強いたします。
経済学者は外部性の問題に対して様々な解決策を持っている。
一つの解決策は、主要な意思決定者が外部コストを内部化するように責任を負わせることだ。例えば、気候変動に伴う外部性を内部化するという意味では、炭素税がこの役割を果たす。しかし、自律走行するマシンの場合、責任者の特定は複雑だ。マシンが組織外の人間に危害を加える可能性があるほど（もちろん、組織内の人間にも物理的な危害を加える可能性があるほど）、人間をループに入れておくことが賢明かつ法的に必要になる可能性が高くなる。
このあたりはわからないので、勉強します。。。以下の記事が勉強になりそうです。
また明日！
草場壽一
https://sinlab.future-tech-association.org/
この記事が気に入ったらサポートをしてみませんか？