【AIによる予測】予測マシンの世紀#22 AIと人間の分業⑤ 予測マシンの決定的弱点
こんにちは。シンラボ共同代表の草場です。
AIとの共同に関して、『予測マシンの世紀 AIが駆動する新たな経済』をまとめていきます。推理小説のようで、ドキドキワクワクです。
目次
はじめに―機械知能
安さはすべてを変化させる
第１部 予測
第３章 魔法の予測マシン
第４章 「知能」と呼ばれるわけ
第５章 データは新しい石油
第６章 分業の新たな形
第２部 意思決定（決断を解明する；判断の価値 ほか）
第３部 ツール（ワークフローを分解する；決断を分解する ほか）
第４部 戦略（経営層にとってのＡＩ；ＡＩがあなたのビジネスを変容させるとき ほか）
第５部 社会（ＡＩと人類の未来）
我々は如何に予測マシンと共同できるのか？前回は記事はこちら。
それでは続きを見ていきます。
■分業の新たな形
昨日は、予測に関する人間とマシンの不得意分野を見ていきました。
データ量が少ない、既知の未知に関してはマシンは予測ができませんでした。しかし、マシンがさらに苦手というか、不得意というか、厄介な分野があります。
未知の既知、です。
そして、決定的な欠点は、因果関係の逆転を生む可能性があることです。
詳しく見ていきます。
・未知の既知
予測マシンの最大の弱点は、自分たちが正しいと確信している間違った答えを出してしまうことがあるということです。
未知の未知の場合、人間は予測の不正確さを理解しています。予測には、その不正確さを明らかにする信頼範囲が付いています。未知の未知の場合、人間は自分が答えを持っているとは思っていない。
対照的に、未知の既知の場合、予測マシンは非常に正確な答えを提供しているように見えますが、その答えは非常に間違っていることがあります。
正しそうな答えを出す、おおごとです。なぜそのようなことが起こるのでしょうか？それは、データが意思決定に影響を与える一方で、データは意思決定から得られることもあるからです。マシンがデータを生成した意思決定プロセスを理解していなければ、その予測は失敗する可能性があります。
ここから例を用いて説明されています。
例えば、あなたが「組織の中で予測マシンを使うかどうかを予測すること」に興味があるとします。この本（予測マシンの世紀）を読めば、予測マシンを使うマネージャーになるかどうかをほぼ確実に予測できることがわかります。なぜでしょうか？
少なくとも3つの可能な理由のため。
第一に、この本に書かれている洞察が役に立つということだ。つまり、この本を読むという行為によって、予測マシンについて学び、その結果、これらのツールを効果的にビジネスに取り入れることができるようになるのだ。
第二に、"逆の因果関係 "と呼ばれる理由がある。あなたがこの本を読んでいるのは、あなたがすでに予測マシンを使用しているか、近い将来に使用する予定があるだ。本が技術の採用を引き起こしたのではなく、その代わりに、技術の採用があなたがこの本を読む原因となったのだ。
第三に、 "省略された変数 "と呼ばれる理由だ。あなたは、技術動向や経営に興味があるタイプの人だ。そのため、あなたはこの本を読むことにした。また、あなたは仕事で予測マシンなどの新しい技術を使っており、技術動向や経営に対するあなたの根底にある嗜好が、この本を読むことと予測マシンを使うことの両方を引き起こした。
「予測マシンの世紀を読んでいるかどうか」を見れば、予測マシンを使うマネージャーになるかどうかをほぼ確実に予測できると。なぜなら、本が有用であるため、そもそも手に取った人が予測マシンを使用する予定だったため、技術動向に興味があるから手に取ったためと、３パターン考えられます。
なぜこのような面倒な区別が必要なのでしょうか？
この区別が重要ではないこともある。
もしあなたが、この本を読んだ人が予測マシンを採用するかどうかを知りたいだけなら、何が原因かは重要ではない。誰かがこの本を読んでいるのを見たら、その人が仕事で予測マシンを使うだろうと、情報に基づいて予測することが出来る。
その通りですね。しかし、この区別が重要な場合もあります。
この区別が問題になることもある。
例えば、この本を友人に勧ようとする場合を考える。なぜ勧めるかというと、この本があなたが予測マシンに関してより良い経営者になる原因となったからだ。
この話は、矛盾ないように聞こえますよね？予測マシンを使った経営が大成功、なぜかというとこの本を読んだから。しかし、そうとは言い切れません。
仮に完璧に未来を見れたとする。あなたが予測マシンの管理に大成功し、それが組織の中核となり、あなたとあなたの組織は夢にも思わないような成功を収めているとする。その成功は、この本を読んだからだと言えるか？
言えない。
この本を読んで影響があったかどうかを知るためには、この本を読んでいなかったらどうなっていたかを知る必要がある。しかし、そのようなデータは今は無い。経済学者や統計学者が「反事実」と呼ぶものを観察する必要がある。
因果関係の話です。本を読んで成功したからといって、成功の原因が本、とは言えません。本を読まなかった場合どうなったからを知る必要があると。上記、反事実に関しては以下の記事がわかりやすいです。
つまり、もしあなたが別の行動をとっていたらどうなっていたかが大事だ。
ある行動が結果を引き起こすかどうかを判断するには、2つの予測が必要だ。
1つ目は、行動を起こした後にどのような結果が起こるか。
2つ目は、別の行動を起こしていたらどのような結果になっていたか。
結果の原因を判断するには、行動後の結果、別の行動をした場合の結果が必要です。しかし、2番目は不可能ですね。行われなかった行動のデータが手に入らないからです。
※元物理学徒として、経路積分を思い出しました。以下ご参考。
この、別の行動をした場合の結果が必要、というのが、マシン予測では繰り返し問題になっています。チェスの例でさらに説明されています。
『Deep Thinking』で、チェスのための初期の機械学習アルゴリズムについて関連する問題が論じられている。実験的なデータベースの機械学習チェスプログラムの結果に関してだ。
グランドマスターのゲームのやり方をマシンに学ばせて、何が有効で何が無効かを把握できるようにした。うまくいったように見えたが、問題は、実際にチェスをプレイさせたときに起こった。
プログラムは駒を展開して攻撃を開始すると、すぐにクイーンを犠牲にしてしまったのだ。わずか数手で負けた。
なぜそんなことをしたのか？
グランドマスターがクイーンを犠牲にするのは、ほとんどの場合、華麗で決定的な一撃だからだ。
面白いです。グランドマスターに追ってはクイーンを犠牲にするのは最終的に勝つときですが、グランドマスターから学んだマシンにとってはクイーンを犠牲にすると勝てると勘違いしたと。
マシンにとって、クイーンを放棄することが、成功への鍵だったのだ。
マシンは因果関係を逆転させた。
「グランドマスターがクイーンを犠牲にするのは、そうすることで勝利への短い明確な道筋を作るときだけ」ということを理解せずに、マシンはクイーンを犠牲にした直後に勝利が起こることを学んだ。
マシン予測におけるこの特定の問題は解決されたが、逆の因果関係は予測マシンの課題として残っている。
因果関係の逆転は以下の記事に詳しいです。
この話が、ビジネスシーンではどういう場に出てくるか？
明日はその辺を書きます。
この記事が気に入ったらサポートをしてみませんか？