「DX、UX、AIの闇の世界を知っておこう」＿ロジラテ思考

皆さんは、買い物の支払いは現金でしょうか？
それともカード決済？　オンライン決済でしょうか？

恐らく、現金で決済する機会はかなり減っているのではないでしょうか。

例えば、アマゾンでショッピングするときは、サイトを閲覧してからオンライン決済します。
アマゾンは、その閲覧記録、購買記録を、すべてAIが個人の行動データとして分析しています。

新規にクレジットカードを申し込むときは、調査会社に蓄積された個人データに照会して、顧客の信用状況を分析されます。

いずれも私達が知らないところで、個人の信用ランク付けをされているのです。

よく考えると、すごく気持ち悪いことです。

１．DXとAIがやっていること

今後、さらにDX（デジタルトランスフォーメーション）が進めば、膨大な顧客の行動データが集まるようになり、この状況はさら加速していきます。

１）自動車保険会社の例
アメリカの自動車保険会社は専用アプリを使って、スマートホンから得られたドライバーがブレーキを踏んだ回数、急ブレーキの回数、カーブで粗っぽい曲がり方をした回数をAIが分析し、顧客毎に保険料を決めているそうです。

２）ドライブレコーダーの例
最近、ドライブレコーダーメーカーやセキュリティー会社が販売しているシステムは、顧客の運転状況や現在地を把握するものも出てきていますが、やろうと思えば顧客の行動データや習慣を把握することができます。

３）SUICAの例
SUICAは、顧客の行動データを活用して商品開発やサービスを行っていますが、彼らがその気になれば「良い顧客と悪い顧客」のランキングは簡単にできるはずです。

例えば、何時頃、どの駅からどの駅に移動したのか？クレジットの状況はどうなのか？を分析すれば、毎晩飲み歩いて遅く帰る習慣をもつ顧客や、毎晩遅くまで残業している顧客を選別できます。
ここから健康上「悪い顧客」と予測できます。

２．DXのリスクマネジメント

このような状態を「バーチャルスラム」と言うそうです。

つまり本人が関知しないところで、良い人と悪い人の層別をAIが行い、階層社会を作ってしまうということです。

クレジットカードの個人評価も同じですが、AIが下した個人評価は、顧客自身は知る術もなく、勝手に企業がレッテルを貼っています。

中国ではもっと進んでいて、政府が中心となって地方自治体や企業が集めた個人データや、行動データをAIが分析してIDと紐付けてしているのですから、良い部分も沢山ありますが、かなり危険な香りがしてきます。

日本では、そうならないように政府主導で「アルゴリズム　フェアネス」と称した議論がなされているようですが、私達自身も日頃から「データは公共財なのか？　それとも私有財なのか？」しっかり見極めていかないと、危ないことに利用されるかもしれません。

あまり考えたくありませんが、もし日本が有事になったとき、「バーチャルスラム」側にいる人達を前線に送り出す兵士を選別するかもしれません。

DX,UX,AIは、これからの社会を発展させるためには必要不可欠なテクノロジーですが、諸刃の剣であることをしっかり認識しておく必要があります。

皆さん、気をつけましょうね！

#仕事について話そう