【AIと戦略】AI業務導入に関してのジレンマ：どこまで誤差を許容できる？『予測マシンの世紀 第四部』#17
こんにちは。シンラボ共同代表の草場です。
AIとの共同に関して、『予測マシンの世紀 AIが駆動する新たな経済』をまとめていきます。推理小説のようで、ドキドキワクワクです。
目次
はじめに―機械知能
安さはすべてを変化させる
第１部 予測
第２部 意思決定
第３部 ツール
第４部 戦略
第十五章 経営層にとってのＡＩ
第十六章 ＡＩがあなたのビジネスを変容させるとき
第十七章 あなたの学習戦略
第５部 社会（ＡＩと人類の未来）
いよいよ第四部、戦略です。どう戦略に組み込むか、一番大事な部分です。先日の記事は以下。
■あなたの学習戦略
この章の全体的なテーマは、「とにかくAI導入を早く進めて、AIも人間も賢くしていこう」なのかなと思います。当たり前といえば当たり前ですが、既存の事業を横においてでもAIファーストで行くかどうかがジレンマです。
ドッグフーディング（ソフトウェアの初期バージョンを社内で使用させること）やベータテスト（初期採用者にソフトウェアをテストしてもらうこと）など、このような形の「Learning-by-Use」では、製品を時間をかけて改善するための学習に短期的な投資が行われる。
Learing-by-Use、やりながら考える。本に記載の他の例を見ていきましょう。
民間航空会社のパイロットもまた、現場での経験から改善を続けている。USエアウェイズ1549便がエンジンが停止したとき、チェズレイ・サレンバーガー機長は奇跡的に飛行機をハドソン川に着陸させ、155人の乗客全員の命を救った。記者の多くは、彼のパフォーマンスは経験によるものだと考えている。サリーは総飛行時間19,663時間を記録しており、そのうち4,765時間はエアバスA320を使用していた。
有名な、ハドソン川の奇跡、です。映画、かなり面白いし感動しました。
機長は以下のように話しているそうです。
"42年間、私は経験、教育、訓練という銀行に少しずつ定期的に預金してきました。そして1月15日、その残高が十分になり、非常に大きな引き出しを行うことができたのです"
機長へのインタビューは以下です。
一定数の経験を早く積んで、スキルを磨く必要があります。人間もAIも同じです。しかし、当然ですが、準備無しに経験を積み始めることは出来ません。
パイロットの資格は米国運輸省の連邦航空局によって規定されており、最低でも1500時間の飛行時間、500時間のクロスカントリー飛行時間、100時間の夜間飛行時間、75時間の計器操作時間が必要とされている
パイロットのミスは人命に関わるため、ミスに対する許容度がとても狭く、十分な事前訓練が必要です。
人間が仕事をする上でどれだけの訓練を必要とするかについては、「十分な訓練」の定義が異なる。学習するマシンについても同じことがいえる。
十分な訓練。たしかに、何をもって十分とするかは人間の判断ですね。
企業は、新入社員を十分なレベルにまで教育した上で、業務に投入するシステムを構築している。これは、新入社員が仕事を経験して学ぶことで改善されることを知っているからだ。しかし、何をもって「十分」とするかは重要な判断だ。予測マシンの場合は、社内教育からOJTへと移行するタイミングに関する重要な戦略的意思決定になる。
新人社員の場合は、「このあたりで研修終了でOKかな？」となんとなく判断できる、もしくは社内に基準があると思います。では予測マシンにとって何が十分なのか？これはすぐにはわかりませんが、何度も議論している通り、トレードオフの関係にあります。
予測マシンで成功するためには、このトレードオフを真摯に受け止め、戦略的にアプローチすることが必要だ。
この後に、トレードオフオフとして、
１．人はどの程度の誤差を許容するか？
２．実世界でのユーザーデータの取得がどれほど重要か？
が取り上げられています。まずは１から見ていきます。
１．人はどの程度の誤差を許容するか？
以前も自動運転車のところで議論していますが、どの程度の精度をAIに求めるかは、業界によって変わってきます。
ある予測マシンに対してはエラーに対する許容度が高く、ある予測マシンに対しては許容度が低い。例えば、GoogleのInboxアプリは、私たちのメールを読み、AIを使って私たちがどのように返事をしたいかを予測し、3つの短い返事を生成して選択できるようにする。多くのユーザーは、このアプリの失敗率が70％であるにもかかわらず、このアプリを楽しんで使っていると報告している。このように失敗に寛容な理由は、予測された短い回答が間違っていた場合に、提案を提供したり、画面の領域を無駄にしたりするコストよりも、構成や入力の手間を軽減するメリットの方が大きいからだ。
この例では、メール編集作業時間が減ることと、AIが間違ったをした場合に作業が無駄になることがトレードオフです。しかし、作業時間が減るメリットのほうが大きいため、70％の誤差は許容できます。
一方、自律走行の領域では、エラーに対する耐性が低い。第一世代の自律走行車は、専門の人間が限られた台数の車を何十万キロも走らせて訓練したもので、親が10代の若者に運転を指導するようなものだった。
自動運転を導入するメリットは様々あります。しかし、人命に関わるため精度の低い自動運転AIを投入すると事故を起こすというコストが非常に大きいです。そのため、予測精度に厳しくなる必要があり、すぐに導入は出来ません。
誰かが、事故につながるまれな出来事に対処する方法を学ぶまでには、さまざまな環境や状況の中で何百万マイルもの距離を走ることになるかもしれない。自律走行車にとって、現実の道路は厄介だが、それはまさに人間が引き起こす厄介で容赦ない状況がそこで起こりうるからだ。
本日はここまで。明日は２つ目のトレードオフを取り上げます。
この記事が気に入ったらサポートをしてみませんか？