【AIによる予測】予測マシンの世紀#18 AIと人間の分業①

こんにちは。シンラボ共同代表の草場です。

AIとの共同に関して、『予測マシンの世紀　AIが駆動する新たな経済』をまとめていきます。推理小説のようで、ドキドキワクワクです。

目次
はじめに―機械知能
安さはすべてを変化させる
第１部　予測
　第３章　魔法の予測マシン
　第４章　「知能」と呼ばれるわけ
　第５章　データは新しい石油
　第６章　分業の新たな形
第２部　意思決定（決断を解明する；判断の価値　ほか）
第３部　ツール（ワークフローを分解する；決断を分解する　ほか）
第４部　戦略（経営層にとってのＡＩ；ＡＩがあなたのビジネスを変容させるとき　ほか）
第５部　社会（ＡＩと人類の未来）

前回まで、データの重要性と具体的な運用方法を見ていきました。

いよいよ、AIとの分業の形に迫っていきます。

■分業の新たな形
キーポイント（まとめ）は以下です。

キーポイント
・プロの専門家を含め、人間は特定の条件下では予測が下手になる。人間はしばしば顕著な情報を過大評価し、統計的性質を考慮に入れない。多くの科学的研究では、さまざまな職業において、このような欠点があることが証明されている。この現象は、長編映画「マネーボール」で説明されている。

・予測という文脈では、マシンと人間には明確な長所と短所がある。
予測マシンが進歩するにつれて、企業はそれに対応して人間とマシンの間の分業を調整しなければならない。
予測マシンは、特に豊富なデータを持つ設定では、異なる指標間の複雑な相互作用を考慮することにおいて、人間よりも優れている。このような相互作用の次元数が増えると、人間が正確な予測を行う能力は、特にマシンに比べて低下する。
しかし、データ生成プロセスを理解することで予測の優位性が得られる場合、特にデータが薄い環境では、人間の方がマシンよりも優れていることが多い。我々は、適切な分業を予測するのに有用な予測設定（すなわち、既知の既知、既知の未知、未知の既知、および未知の未知）の分類法を記述する。

・予測マシンはスケールする。予測あたりの単価は、頻度が高くなるにつれて低下する。人間の予測は同じようにスケーリングしない。しかし、人間は世界がどのように機能するかの認知モデルを持っているので、少量のデータに基づいて予測を行うことができる。したがって、私たちは例外的に人間の予測が増加すると予想している。それは、マシンがルーチンで規則的なデータに基づいているので、ほとんどの予測を生成するが、まれなイベントが発生したときに、マシンは自信を持って予測を生成することができないことを認識し、人間の支援を求める。人間は例外的に予測を提供する。

予測に関して人間と予測マシンでいかに共同していくか？詳しく見ていきます。

始めに、Chisel AIの話が出てきます。Chiselは2015年当初は、法律文書のどの情報が機密であるかを予測する製品を提供していました。

この製品は、法律事務所が文書の開示を求められたときに、機密情報をブラックアウト（つまり再編集）しなければならないため、法律事務所にとっては貴重な存在だ。歴史的に、再編集は人間が文書を読み、機密情報をブラックアウトするという手作業で行われてきた。Chiselのアプローチは、時間と労力の節約を約束した。

面白いAIです。文書系はまだまだAIが入り込む余地があるので、注視していきます。
このマシンによる再編集はある程度は機能しましたが、不完全だったそうです。

時には、機械は開示すべき情報を誤って修正したり、何か機密事項をピックアップすることに失敗した。法的基準を達成するためには、人間が助ける必要があった。テスト段階では、Chieselのマシンが何を修正すべきかを提案し、人間はその提案を拒否したり、受け入れたりした。
事実上、一緒に作業することで、多くの時間を節約しながら、人間が単独で達成したよりも低いエラー率を達成することができた。それがスピードと注意力の人間の弱点、およびテキストの解釈のマシンの弱点を克服したので、この人間と機械の分業は働いた。

なんでもかんでもAIにやらせよう、みたいな感じに思ってしまいますが、人間にも機械にも欠点があります。この欠点が何であるかを知らなければ、予測を生成するために機械と人間がどのように協力すべきかを評価することはできないそうです。なぜでしょうか？

それは、アダム・スミスの経済思想である「相対的な強さに基づいて役割を配分する分業」にまで遡る考え方があるからである。
ここでは、予測を生成する際の分業は人間とマシンの間にある。分業を理解するには、予測を行う上で人間と機械のどちらが優れているかを判断する必要がある。これにより、それぞれの特徴的な役割を明らかにすることができる。

本日はここまで。明日は予測に関する人間の苦手な部分について書きます。

草場壽一
https://sinlab.future-tech-association.org/