AIには決して代替できない、人間だけが持つ意思決定の力
この記事では、人とAIの意思決定分担について話し合います。
AI代替できないのは？
人にはAIに代替できない能力が何か？これは、誰もが考えるべき問題です。
こちらの記事では3人のカナダの経済学者による一冊の本、「権力と予測：人工知能の破壊的経済学」には、AIと人の分担の指針になり得る洞察があります。簡単に言うと、両方が共同で意思決定を行うことで、AIは予測を担当し、人は判断を担当します。
これを説明するために、実際の事例を見てみましょう。ライドシェア会社のUberは自動運転車のテストを続けています。2018年、Uberの自動運転車がアリゾナ州で歩行者を死亡させる事故が起き、激しい議論を呼びました。
この事故を詳しく分析すると、衝突の6秒前に、AIは前方に未知の物体を認識していました。物体が人間である確率が非常に低いと判断したため、直ちにブレーキをかける決定を下しませんでした――その確率がゼロではないにもかかわらず。
AIには判断の閾値があり、前方の物体が人間である確率が一定の数値を超える場合にのみブレーキをかけます。衝突の6秒前にはその閾値を超えていなかったため、人間であることが最終的に明らかになった時にはブレーキをかけるのが遅れてしまいました。
ブレーキの決定を「予測」と「判断」の二つのステップに分けます。AIの予測は正確ではないかもしれませんが、物体が人間である可能性を予測し、ゼロではない確率を出しました――問題は判断にありました。この確率に基づいてブレーキをかけるべきかどうか、その判断が悲劇を引き起こしました。
UberのAIは閾値判断法を使用していますが、これは理解できます。前方の任意の物体が人間である可能性がゼロではない場合にAIがブレーキをかけると決定すれば、車は道路上で停止し続けることになり、運転が不可能になります。もちろん、その閾値が不適切であると言うこともできますが、いずれにせよ判断が必要です。
AIが存在する今、このような分析が可能になりました。以前は多くの人間のドライバーが人を轢いた事故が発生しても、そのドライバーが予測ミスを犯したのか、判断ミスを犯したのかを分析することはありませんでした。しかし、このような分析は完全に合理的です。なぜなら、予測ミスと判断ミスの性質は非常に異なるからです。ドライバーに問いかけます。あなたは前方に人がいることを全く見ていなかったのですか、それとも前方の物体が人間である可能性を感じ取ったものの、その可能性が非常に小さいと感じ、時間に追われているため、そのような小さな確率を受け入れて通過したのですか？
あなたのミスは、予測ミスなのか、それとも判断ミスなのか？
意思決定 = 予測 + 判断
予測とは、各種結果の発生確率を伝えることです。判断とは、それぞれの結果に対して、どれだけの程度で受け入れるかです。
ティム・パーマーの「第一の疑問」（The Primacy of Doubt）では、予測の確率に基づいてどのように意思決定を行うかについて詳しく説明しています。週末に屋外でパーティーがあり、雨が降る場合に備えてテントをレンタルするかどうかがあなたの意思決定です。天気予報はその日に雨が降る確率が30%であると伝えます。これが予測です。このような確率に直面して、雨による損失が受け入れられるかどうかがあなたの判断です。
行動のコスト（つまりテントのレンタル料）が損失（つまり雨がもたらすトラブルの大きさ）に確率を掛けたものよりも小さい場合には、行動をすべきであり、テントをレンタルして雨を防ぐべきであると話しました。しかし、この講義の観点からは、この「すべき」をあなたへの提案として理解すべきです。
行動を取るかどうかの最終決定はあなたにあります。なぜなら、その損失は最終的にあなたが負担するからです。AIは損失を負担しません。公式で提案をする人も損失を負担しません。英国の女王であれ、あなたの義母であれ、参加者が雨に濡れることが大きな問題かどうかはAIには分からないのです。それは実際にはあなた自身の主観的な判断です。
AIは天気の確率を予測するのが得意ですが、天気の状況がもたらす結果を判断するには、もっと多くの具体的な情報が必要であり、それはおそらくあなただけが知っている情報です。したがって、判断をするのはAIではなくあなたであるべきです。
AI時代の意思決定 = AIの予測 + 人の判断
つまり、予測と判断を分離すべきです。以前はすべての意思決定が人が予測を担当し、人が判断を担当していましたが、現在はAIが予測を担当し、人が判断を担当すべきです。
私たちはAIが人より賢いことを認めますが、実際にリスクを負担し、結果を経験するのは人であることも知っています。予測は客観的であり、判断は主観的です。AIは人の判断を越えるべきではなく、人もAIの予測を専断すべきではありません。AIと人はそれぞれの立場を守り、明確な役割分担を持つべきです。
判断方法その一
この役割分担をどのように実施するか？一つの方法は、人がAIに自動的な判断の閾値を設定することです。
例えば自動運転車では、AIが前方の物体が人である確率が0.01%以上――または0.00001%でも構いませんが、とにかくゼロではない数値――の場合には必ずブレーキをかけるように規定することができます。この判断基準、このラインはAIが自ら定めるものではなく、人が事前に設定したものです。このラインをAIにプログラムするのですが、そのプログラム指令を下すのは人でなければなりません。なぜなら、人命の価値を判断することはAIにはできないからです。
実際、私たちはすでにこのような判断を使用しています。以前は店で商品を買う際に現金を使用していましたが、その現金が本物か偽物かは店のレジ係が自ら予測し、自ら判断しなければなりませんでした。現在はクレジットカードを使用すると、そのカードが本物か偽物かの判断はもはやレジ係によるものではなく、クレジットカードのネットワークシステムがアルゴリズムに基づいて予測し、判断します。アルゴリズムはまずそのカードが偽物である確率を評価し（予測）、次にその確率があるラインを超えるかどうかを判断し（判断）、受け取るかどうかを決定します。そのラインはAIが算出したものではなく、人類による委員会が事前に定めたものです。なぜなら、ラインを低く設定すると顧客を怒らせるのは人であり、ラインを高く設定すると損失を負担するのも人だからです。
将来、私たちはさまざまな類似の事例に直面するでしょう。「権力と予測」この本は、このような判断は米国食品医薬品局（FDA）のような機関が実行するのが最善であると提案しています。新薬が市場に出るかどうかを評価するようにです。
判断方法その二
もう一つの方法は、判断を金銭に量化することです。
あなたは車をレンタルし、比較的遠い場所に行くことにしました。選択できる2つのルートがあります。一つ目のルートは比較的直接的で、素直に運転するだけで、特に景色はありません。二つ目のルートは風景区を通ります。これはあなたにとって楽しみですが、風景区には歩行者がおり、事故の確率が上がります。AIが直接どのルートが事故の確率がどれだけ高いかを伝えたとしても、あ
なたは判断が難しいかもしれません。
より便利な方法は、AIが風景区を通るルートを選択した場合、レンタル車の保険料が第一ルートを選択した場合よりも1ドル高いと伝えることです。この1ドルの保険料は、AIが2つのルートのリスクの違いを予測したものです。
今、判断はあなたに委ねられます。もし風景の重要性が1ドルを超えると思えば、風景区を選択します。もし風景にそれほど興味がなければ、1ドルを節約します。
見ての通り、AIはあなたを理解する必要もなく、理解することもできません。1ドルと風景の間の選択は、あなたの好みを明らかにします。経済学では、これを「明示的好み（Revealed Preference）」と呼びます。人の多くの好みは本来言葉では説明できないものですが、お金と結びつけることで明確になります。
権限付与
予測と判断を分離することは、人にとっての権限付与です。
以前はタクシーを運転したい場合、単に運転ができるだけでは十分ではありませんでした。まず、道を覚える必要があり、この都市の任意のA地点から任意のB地点への最短ルートを知る必要がありました。これは、予測ができなければならないということです。現在はAIがルート予測を担当するため、運転ができればライドシェアの運転手になることができます。
AIがいれば、人は判断でき、意思決定できます。しかし、これは意思決定が簡単であるという意味ではありません。なぜなら、判断には判断の学問があるからです。
生活の中での多くの判断は、委員会によるライン引きでも金銭に量化されるものでもなく、個々の具体的な状況に基づいて個人が具体的に分析する必要があります。この結果があなたにとってどれほど良いか、またはどれほど悪いか、本当に耐えられるかどうか、どのように判断しますか？
一部はあなたが読書や他人から学んだものかもしれません。たとえば、熱された鉄の焼印が非常に痛いことを聞いたので、それを避けるために高い代償を払うことを望むでしょう。しかし、聞くことと体験することは違います。実際に焼印を受けて初めて、その痛みがどれほどのものかを知ることができます。判断には大きな主観的要素があります。
そして、判断能力はますます重要になっています。アメリカの統計によると、1960年には僅か5%の仕事が意思決定スキルを必要としていましたが、2015年には30%の仕事がそれを必要としており、それらはすべて高給の職でした。
人だけが痛みを知っているため、人は機械ではありません。そして、判断力とそれに伴う意思決定力は、本質的には権力です――AIには権力がありません。これが「権力と予測」という本のタイトルの由来です。
意思決定権への影響
AIが予測を担当するようになった後、社会レベルおよび企業組織レベルでの意思決定権の行使は新たな問題となります。
例を挙げましょう。鉛が人体に有害であることが分かったため、1986年から、アメリカ政府は新しい建物での鉛を含む飲料水管の使用を禁止しました。しかし、多くの古い建物の水管には鉛が含まれており、古い水管の改造問題がありました。しかし、改造は非常に費用がかかり、労力が必要であり、古い水管にはすべてが鉛を含んでいるわけではなく、掘り起こさなければ鉛を含んでいるかどうかを知ることができませんでした。では、誰の家の水管から先に掘り起こすべきでしょうか？
2017年、ミシガン大学の2人の教授が、どの家の水管に鉛が含まれているかを80%の正確さで予測できるAIを開発しました。ミシガン州のフリント市はこのAIを使用しました。最初はうまくいっていました。市政府はAIの予測に基づいて、各家庭の水管を交換するように作業隊に指示しました。
しばらくすると、一部の住民が不満を持ち始めました。なぜ私の隣人の家の水管は交換され、私の家の水管は交換されないのか？特に裕福な住宅地の人々は、なぜ貧困地域の水管を先に交換するのか、私たちがより多くの税金を払っているのではないかと言いました。
このような不満を受けて、フリント市の市長はAIの意見を聞かないことにしました。家々を順番にゆっくりと交換することにしました。その結果、意思決定の正確さは一気に80%から15%に低下しました...その後しばらくして、アメリカの裁判所が法案を提出し、水管交換の意思決定はAIの予測を最初に聞くべきだと述べ、意思決定の正確性が再び向上しました...
この事件からの教訓は、AIが意思決定権を変えたということです。AIの予測がなければ、政府だけが誰の家の水管を先に交換すべきかを予測し、判断できるため、意思決定権は完全に政治家の手にありました。AIがあれば、一般市民やコミュニティも自ら判断できるようになり、特にアメリカの三権分立では、司法システムも直接発言できるため、政治家は使えなくなりました。
社会変革
意思決定権は誰に属するべきでしょうか？経済学の観点から言えば、誰が組織全体の効率を最も高めるかによって、意思決定権はその人に属するべきです。
以前は予測と判断が分離されていなかったため、意思決定権は通常、現場の人員に委ねられるべきでした。なぜなら、彼らが直接関連する重要な情報に触れており、彼らの予測が最も正確だったからです――「砲火を聞く人に指揮を任せる」ということです。（ファーウェイCEO任 正非氏の名言）
現在はAIが予測を担当し、人が判断をするため、個人の利益が会社の利益と最も関連している人に意思決定を任せる、またはその意思決定の影響を最も受ける人に任せる、または意思決定の結果を最も理解できる人に任せることを検討することができます...これらはすべて、組織の変革を意味します。
変革はまた、以前の予測者が判断者や解説者に転身する必要があることを意味します。
例えば、以前は天気予報機関の主な責任は予測の正確さを向上させることでしたが、現在はAIがいるため、彼らの主な責任はもはや天気を予測することではありません...おそらく、予測結果を一般市民や政府機関に説明することになります。AIが来週に龍巻が発生する可能性が5%であると述べた場合、政府の役人がその5%がどれだけの損失を意味するのかを理解できないかもしれませんが、おそらくあなたこの気象学者が説明できるでしょう。未来の気象台は、単に雪の可能性を予報するだけでなく、一般市民に明日の移動計画をどのように立てるかを提案するような、より人間的なサービスを提供するかもしれません。
再び、以前は放射科医の主な任務は画像を見て病気を予測することでした。現在はAIが人間を超える能力で画像を解析できるため、放射科は他のサービスを考える必要があります。おそらくは患者に病気を説明することであり、放射科が存在し続けるべきかどうかも疑問です...
最後に
「権力と予測」この本は、AIが予測を担当し、人が判断を担当するという解決策を提供しています。私にとって、この分担は非常に合理的です。意思決定権をAIに渡すと、人は不快に感じるでしょう。AIがいかに優れていても、私たちはそれを神として崇拝することを望んでいません。AIは、助手や司祭の役割を素直に演じ、最終決定権は人の手にあるべきです。
この記事が気に入ったらサポートをしてみませんか？