機械は人間よりも優れた意思決定ができるが、それが実際に正確であるかどうかはどうやって分かるのか？
人間の意思決定者が働く状況そのものが、機械がより良い意思決定を下すかどうかを意思決定者が学習することを妨げる可能性があるようだ、という独ESMT（欧州経営技術学校）ベルリンからの研究報告。
研究者らは、重要な意思決定を行う機械を監視する人間の意思決定者が、どのような条件下で機械がより良い推奨事項を生成するかどうかを適切に評価できるかを判断したいと考えた。そのために研究者らは、人間の意思決定者が患者に生検を行うかどうかなどの重要な決定を行う機械を監督する分析モデルをセットアップした。人間の意思決定者は、タスクごとに機械から受け取った情報に基づいて最適な選択を行った。
研究者らは、人間の意思決定者が機械の推奨事項に耳を傾け、それが正しいことが判明した場合、人間は機械をより信頼するようになるということを発見した。しかし、人間は、機械の推奨が正しいかどうかを観察しないことがあった。これは、たとえば、人間の意思決定者が後続のアクションをとらないことを決定した場合に起こった。この場合、信頼に変化はなく、人間の意思決定者にとって教訓は何も得られなかった。この人間の決定と人間による機械の評価との間の相互作用は、偏った学習を生み出す。したがって、時間が経つにつれて、機械を効果的に使用する方法を学ばない可能性がある。
これらの発見は、人間がアルゴリズムの決定を上書きすることは、必ずしも機械に対する本質的な不信感を意味するのではないことを明確に示しているが、時間の経過とともに、この偏った学習は一貫した上書きによって強化される可能性があり、その結果、意思決定において機械が誤って非効果的に使用される可能性がある。
「人間がアルゴリズムを無効にする傾向がよく見られますが、これは通常、機械ベースの予測に対する本質的な不信感が原因であると考えられます」と研究者は述べている。「しかし、このバイアスが、アルゴリズムを不適切かつ組織的にオーバーライドする唯一の理由ではない可能性があります。また、私たちの学習が機械の予測の正しさのみに基づいている場合、私たちは単に機械を効果的に正しく使用する方法を学習していないだけかもしれません。」
これらの調査結果は、機械の意思決定能力を信頼することが、機械の利用方法を効果的に学習するための鍵であり、機械の使用の精度も向上することを示しているという。
「私たちの研究は、人間の意思決定者が機械のアドバイスを継続的に考慮しない限り、機械の知能から学ぶ機会が明らかに不足していることを示しています」と研究者は言う。「選択的でなく、常に機械を使って完全に学習する方法を採用する必要があります。」
研究者らは、これらの発見は人間と機械の間のコラボレーションの重要性を明らかにし、いつ機械を信頼すべきか（そしていつ信頼すべきでないか）を示す指針を示していると述べている。このような状況を研究することで、いつ機械の言うことを聞くのが最適で、いつ自分で決定を下すのが良いかを学ぶことができる。研究者らによって設定されたフレームワークは、人間が意思決定において機械をより効果的に活用するのに役立つだろう。
出典は『Management Science』
http://dx.doi.org/10.1287/mnsc.2023.4791
この記事が気に入ったらサポートをしてみませんか？