【AIによる予測】予測マシンの世紀#24 AIと人間の分業⑦ いよいよマシンと人間の協力

こんにちは。シンラボ共同代表の草場です。

AIとの共同に関して、『予測マシンの世紀　AIが駆動する新たな経済』をまとめていきます。推理小説のようで、ドキドキワクワクです。

目次
はじめに―機械知能
安さはすべてを変化させる
第１部　予測
　第３章　魔法の予測マシン
　第４章　「知能」と呼ばれるわけ
　第５章　データは新しい石油
　第６章　分業の新たな形
第２部　意思決定（決断を解明する；判断の価値　ほか）
第３部　ツール（ワークフローを分解する；決断を分解する　ほか）
第４部　戦略（経営層にとってのＡＩ；ＡＩがあなたのビジネスを変容させるとき　ほか）
第５部　社会（ＡＩと人類の未来）

我々は如何に予測マシンと共同できるのか？前回は記事はこちら。

それでは続きを見ていきます。

■分業の新たな形
昨日は、予測に関するマシンの不得意分野、未知の既知、は人間の知見を入れて解決可能ということがわかりました。この点を本日深めていきます。

この、人間とマシンの協力が、世界最高の予測を生み出す例があるそうです。

時には、人間とマシンの組み合わせが最高の予測を生み出し、それぞれが他の弱点を補完することもある。
2016年には、ハーバード大学/MIT大学のAI研究者チームが、生検のスライドから転移性乳がんをコンピュータベースで検出するコンテスト「Camelyon Grand Challenge」で優勝した。このチームの優勝した深層学習アルゴリズムは、人間の病理医の96.6％のパフォーマンスと比較して、92.5％の確率で正しい予測を行った。これは人類の勝利のように思われたが、研究者たちはさらに進んで、彼らのアルゴリズムと病理医の予測を組み合わせ、人間のエラー率を0.5%にまで低下させた。人間のエラーの割合が3.4％だったのが、わずか0.5％に減少したのだ。

人間とマシンの予測精度を単に比較するだけでなく、どちらかが勝っているなら組み合わせようと。この分業で大事なポイントがあります。

これは典型的な分業だがが、アダム・スミスが説明したような物理的な分業ではない。むしろ、経済学者でコンピュータのパイオニアであるチャールズ・バベッジが19世紀に最初に説明した認知的な分業だ。

今の経済は作業の分担で支えられていますが、これが物理的な分業です。今話題に上がっている人間とマシンの分業は、認知的な分業です。作業分担ではなく、認知作業を分担しています。

人間とマシンでは、予測の得意分野が違います。例えば、ガンの予測の話が取り上げられています。

人間の病理医は、ガンがあると言ったときは大抵当たっていた。人間が「ガンがある」といって間違うのは珍しかった。それに対してAIは、「ガンがない」と言った時の方が正確だ。

ガンの場合、存在することの予測を得意なのが人間、存在しないことの予測が得意なのがマシンです。

人間とマシンは異なるタイプの間違いをする。この能力の違いを認識した上で、人間とマシンの予測を組み合わせることで、これらの弱点を克服し、誤答率を劇的に下げることができるのだ。

では、この連携が、ビジネス環境にどのように反映されるのでしょうか？これは大きく二つあるそうです。

マシン予測は、大きく分けて2つの経路で人間の予測の生産性を向上させることができる。
1つ目は、マシンが、人間が自分の評価と組み合わせるための初期予測を提供することだ。
2つ目は、事後のセカンドオピニオン、つまりモニタリングの道筋を示すことだ。

検討する上での初期予測にマシンを使う、もしくは、検討後のセカンドオピニオンにマシンを使うと。このマシン予測の利用は、人間にとっては今まで以上の努力が必要となります。

理論的には、自分の予測が客観的なアルゴリズムと異なる理由を答えなければならない人間は、十分な自信を持っていることを確認するために余分な努力をしなければ、マシンを覆すことができないかもしれない。

さて、具体的な例を見ていきます。融資申請者の信用力の例が取り上げられています。

Daniel ParavisiniとAntoinette Schoarは、コロンビアの銀行が新しい信用スコアリングシステムを導入した後に、中小企業の融資申請者を評価したことを調査した。スコアリングシステムは、申請者に関する様々な情報を収集し、リスクを予測する一つの指標に集約した。
そして、銀行の従業員で構成される融資委員会が、スコアと独自のプロセスを用いて、融資を承認するか、拒否するか、あるいは地域のマネージャーに判断を委ねるかを決定した。

これに関しては詳細は以下の論文です。

The Incentive Effect of Scores: Randomized Evidence from Credit Committees

マシンのはじき出した信用スコアとマネージャーが協力するわけです。

このように、スコアは意思決定への影響を科学的に評価するのに適した場を提供したのだ。
あるグループの社員は、審議のために集まる直前にスコアを提供された。これは、マシン予測が人間の意思決定に反映されるという、マシンとのコラボレーションの第一の方法に類似しています。
一方、別のグループの社員には、最初の評価をした後に、スコアを渡した。これは、マシン予測が人間の判断の質を監視するのに役立つという、第二のマシンとの共同作業の方法と類似しています。
1つ目と2つ目の違いは、スコアが人間の意思決定者に情報を提供しているかどうかだ。

では人間がマシン予測を使う場合、第一の方法、つまり初期予測を提供してもらうのに使うのが良いのでしょうか？または第二の方法、事後のセカンドオピニオンとして使用するのが良いでしょうか？、

どちらの場合も、マシン予測の信用スコアが役に立ったが、スコアを事前に提供した場合が最も改善された。その場合、委員会はより良い判断を下し、マネージャーに助けを求める回数も減った。予測は、情報を提供することで下層部のマネージャーに力を与えた。

マシン予測を利用する第一の方法、事前予測により、人間の判断力が上がるようです。

もう1つのケースでは、委員会がスコアを後から入手した場合、意思決定が改善された。これは、予測が、上位のマネージャーが委員会を監視するのに役立ったからだ。これにより、委員会が決定の質を確保するためのインセンティブが高まったのだ。

この例では、予測マシンが人間の判断力、意思決定力を高めることがわかりました。

さて、改めて、人間と予測マシンのペアがより良い予測を生み出すためには、人間とマシンの限界を理解する必要があります。先の融資の場合、人間の限界は偏った予測をする点です。マシンの限界は、重要な情報を欠く可能性がある点です。

人間同士の共同作業では、チームワークや仲間意識が重視されるが、人間とマシンのペアはチームとは言えないかもしれない。人間がマシン予測をより良くするためには、またその逆に、人間とマシンの両方の弱点を理解し、その欠点を克服する方法で組み合わせることが重要だ。

人間とマシンの欠点両方を克服する方法、今はあまり想像つきませんが、より深めて勉強していきます。

本日はここまで。

草場壽一
https://sinlab.future-tech-association.org/