【AIと戦略】 AIの多様性を確保しよう『予測マシンの世紀 第四部』#28
こんにちは。シンラボ共同代表の草場です。
AIとの共同に関して、『予測マシンの世紀 AIが駆動する新たな経済』をまとめていきます。推理小説のようで、ドキドキワクワクです。
目次
はじめに―機械知能
安さはすべてを変化させる
第１部 予測
第２部 意思決定
第３部 ツール
第４部 戦略
第十五章 経営層にとってのＡＩ
第十六章 ＡＩがあなたのビジネスを変容させるとき
第十七章 あなたの学習戦略
第十八章 AIリスクの管理
第５部 社会（ＡＩと人類の未来）
いよいよ第四部、戦略です。どう戦略に組み込むか、一番大事な部分です。先日の記事は以下。
■AIリスクの管理
昨日、入力データがいじられると、個人に害が簡単に及ぶことを見ました。特にパーソナライズされた情報であるID情報に関しては、注意が必要です。
最も重要なのはアイデンティティだ。ある人物に特化した予測の場合、AIに間違ったアイデンティティを与えてしまうと、悪い結果につながる。
それでは、非パーソナライズされた予測はどうでしょうか？
非パーソナライズされた予測は、集団レベルの操作に関連した独自のリスクに直面するかもしれない。生態学者は、均質な集団は病気や破壊のリスクが高いと教えてくれる 。
この参考文献は以下です。なかなか高額。。。
典型的な例は農業だ。ある地域や国のすべての農家が同じ系統の特定の作物を植えれば、短期的には良い結果が得られる。その作物を選んだのは、その地域で特によく育つからだ。最高の株を採用することで、個人のリスクを減らすことができる。しかし、このような同質性は、病気や不利な気候条件を引き起こす可能性がある。すべての農家が同じ系統を植えれば、同じ病気にかかりやすくなる。そうなると、広範囲に渡って壊滅的な不作になる可能性が高まる。このような単一栽培は、個人的には有益だが、システム全体のリスクを高める。
わかりやすいですね。予測マシンの場合は、どうでしょうか？
ある予測マシンのシステムが特に有用であることがわかれば、そのシステムを組織や世界のあらゆる場所に適用することができる。すべての車が、最も安全と思われる予測マシンを採用するかもしれない。それは個人レベルのリスクを減らし、安全性を高めるが、意図的であるかどうかにかかわらず、大規模な失敗の可能性を広げることになる。すべての車が同じ予測アルゴリズムを採用している場合、攻撃者はそのアルゴリズムを悪用し、データやモデルを何らかの方法で操作して、すべての車を同時に故障させることができる。農業と同じように、均質性は個人レベルでの結果を向上させるが、システム全体での失敗の可能性を高めることになる。
予測マシンにも、多様性を持たせる必要がるかもしれません。しかし、多様性を確保するとトレードオフがあります。
システム全体の故障という問題に対する一見簡単な解決策は、導入する予測マシンの多様性を促すことだ。これにより、セキュリティリスクは軽減されるが、その代償としてパフォーマンスが低下する。また、標準化されていないために、偶発的に小さな故障が発生するリスクが高まる。生物多様性と同じように、予測マシンの多様性は、個人レベルとシステムレベルの結果のトレードオフを伴う。
やはりトレードオフですね。個人重視か、システム全体重視か。システム全体が攻撃された場合は、国家安全保障上の問題となりえます。
システム全体の失敗のシナリオの多くは、複数の予測マシンが同時に攻撃されることだ。例えば、1台の自律走行車が攻撃されれば安全性が脅かされるが、すべての自律走行車が同時に攻撃されれば国家安全保障上の脅威となる。
この大規模攻撃を防ぐ一つの手段が、デバイスをクラウドから切り離す方法です。クラウドをつかうか、エッジで予測するか、以前議論しました。
全体的な予測の精度は低下しますが、状況依存の学習を高速化すると消費者のプライバシーを保護したい場合、クラウドではなくエッジ（地上）で予測を実装することに利点があります。
エッジでの予測には、もう一つの利点がある。予測マシンのトレーニングは、おそらくクラウドなどで行われるが、いったんマシンがトレーニングされると、クラウドに情報を送り返すことなく、デバイス上で直接予測を行うことができるようになるかもしれない。
エッジコンピューティングをうまく使えば、全体攻撃は防げそうです。
明日はトレーニングデータの抱えるリスクを見ていきます。
この記事が気に入ったらサポートをしてみませんか？