ＡＩってそんなに未来用語？

ＡＩってそんなに未来用語？

　ＡＩという便利なワードがあります。
　企業にせよ国にせよ、テクノロジーの向かう先・技術推進の方向性を与える言葉として利用されています。ぶっちゃけた話、とりあえず「ＡＩ技術」などと一言スピーチに忍ばせておけば格好がつく…という使い道です。
　クラウド（ネット上のサービス）やIoT（家電や交通など広い意味での生活機器への組み込み）などの新しいオプションとして扱われますが、この万能感たっぷりのワード、本当に意味は合ってるのでしょうか？もっと技術的に正確に扱った方がよいのでは？と思わなくもありません。言葉が技術的でないと限界が分かりにくいからです。良いことだけを言い、ひたすら未来志向をアピールする言葉の威力ありきの使われ方をしていないでしょうか。そんなにうまい話も便利な話もないのでは…。
　現実にはこの「ＡＩブーム」（官制・民生）に逆行する動きも起こっています。
　このＡＩ信仰には色々と問題がありそうな気がします。

ＡＩとは？

　よく言われるＡＩが何を指す言葉なのか、技術的な例をお話ししますと、例えば工場で使う製作機械。最初から精密な組み立てや溶接その他ができるワケではありません（最初からそういった使い方を目指して作られたものもありますが高度な事はできません）。
　どのようにして使えるようになるかというと、熟練の製造技師や職人と呼ばれる人たちがこの機械を操作して実際に作業を行います。この時、機械は学習モードになっています。

　次に機械に学習させた工程を再現させてみます。うまく再現できない部分は調整を行います。

　こういった作業を加工する材料や材質、サイズなどの違いを調整しながらさらに学習させます（応用力をつけさせます）。作業上の問題がなくなれば熟練の技師がいなくてもほぼ同様の作業を単独で行える状態になります。つまり、育てて人間の代わりをさせるのがＡＩ、学習が必要でその質が重要＝教える人間の技能が重要なのです。そのため、現在の人間の仕事はＡＩを育てる事がメインになってきています。
　仮想的なサービスであれば計画やスケジュールの自動化です。配車や運行サービスであればやはり熟練のドライバーがマップを参照しながら最適ルートを教えて行きます。道路状況は時間や走行車両数などで変化しますから、場合によっては距離的に遠回りのルートを取る方が早い事もあります。また配送先の順番を考えて効率的なルートを考えなくてはなりません。こういったノウハウを計画サービスのシステムに教えて行きます。一方通行を逆走するなど不正な動作にはチェックを入れ、条件を追加して行きます。問題点をクリアして行くことで最終的に自立して計画を立てられるようになるのです。ここまできて初めてコンピュータ特有の計画の高速性もメリットとして行かせるようになります。
　つまりＡＩと言っていますが現実に使用できるのはディープラーニングのような制約の少ない可能性提起ではなく、現実の多くの複雑な制約を反映して最適解をなぞる学習なのです。なぜかと言えば前者にはかならず人の手による検証が必要になってくるからです。経験則による是非の判定ができません。前者のようなシステムの場合は、必ず判断は人間がするようになっています。自分で判断はできません。
　なのでＡＩという言葉に「放っておいても勝手にうまく運んでくれる」という意味を放り込むのは間違った使い方だと思います。
　希望的観測の代名詞にはなりません。

ＡＩに逆行

　ＡＩが原因と思われる事故が交通機関を中心に続発しています。最近話題が下火になっていますが、ハイブリッド車中心に異常加速などが原因の物損事故は多いようです。
　人身事故の場合はニュースになりますがそうでない場合は報道が取り上げない事も。
　特に特定の車種の”クセ”のようなものが話題になっています。例として動画があるのでご覧ください。

　特定の車種にはブレーキが効かなくなった時の非常停止の方法がマニュアルに書かれているそうです。
　こういったものはシステムの”クセ”のようなものです。そこに操作系のミスマッチが加わっています。設計思想を反映したものです。
　ＡＩに学習させるのが技師や専門家であるとすると、設計思想は”宗教”のようなものです。作った人間側の組織的な”人間性”が反映されたもので、ＡＩはその制約上で行動し、思想を再現しているに過ぎません。怖いのは無意識の思想まで反映してしまい予想外の結果を引き起こすことです。
　この半年ほどで自動車産業はこういった「ＡＩで売る市場」から「安全性重視の市場」に明らかに変わっています。販売台数が伸びているのも後者の特徴を持った車です。

　もう一つの話題としてシーサイドラインの逆走事故があります。直接の原因は断線とされ、自動運転が問題となり事故直後は必ず搭乗員が搭乗することになりました。
　これはいわゆる”異常系”のシステム耐性が低いことが原因で起こった事故ですが、常に正しい情報を元にＡＩが動作できるとは限らないのです。異常であってもＡＩは教えられた通りに行動することしかできません。
　一定期間、自動運転を取りやめにしたのは安全性が低く、信用がなくなったからです。

ＡＩの影にヒト

　設計思想があればそれがＡＩに反映されます。それが原因でトラブルになるのであればＡＩが悪いとは言えません。
　事故を起こす車両の設計思想が何であるかは想像することしかできませんが、一つ言えるのは意図して差別化しようとしているということです。少々脱線しますが喩え話をしてみます。
　Ｄ社は高い技術力を持っていてハイブリッドエンジンを考案しました。しかし、この会社はいわゆる高級車を扱うブランドではありません。そこでＴ社はこの技術のライセンスを受けてハイブリッドエンジンを搭載した高級（高価格帯）車両を開発し、新機軸として売り出しました。
　この新型車は少々強い勢いで売れすぎました。
　Ｔ社は商機に手応えを感じ張り切ったハズですが、心穏やかではなかったかもしれません。新型車は新しい技術で売り出しましたが、その基礎技術と発想はいわゆる格下のブランドのＤ社のものでしたから。売れれば売れるほどに自分たちの技術でないという負い目が内心あったかもしれません。

　この新技術を自社ブランドとして高めて行くのはＴ社の使命となりましたが、もちろん性能向上と共にＴ社らしさを必要以上にアピールして行く流れとなりました。Ｄ社の発明ではないＴ社の技術力で実現した商品でなければならないからです。車は安全追求という面でも積み上げてきたものを持っている製品です。伝統的な操作系に手が付けられました。そして燃料節約（エコ）運転の特徴を生かすためにシステムに手が入れられました。前者は思わぬ操作のミス、後者は道路上での異物感になりました。

　伝統に逆らえば他の車両との異質な存在感を生み出しますし、安全性は長い検証期間がないと性能を構築できません。

　Ｔ社は自身が関わった技術のボリュームを増やしＤ社の存在感を消したかったのかもしれません。
　設計思想を”人間性”と表現したのはこういった物語があるかもしれないと思ったからです。
　以上は物語に過ぎませんが（そういう事にしておきます）、新機軸を打ち出すためなのか操作や運行を差別化したいという意図はあったように思います。

　システムは仮想的なものなので画期的な技術とはなりませんが、新しい基礎技術を産み出すより安易に提案を実現できるので重宝され、そのようなシステムは大抵破綻します。アイディア倒れになりやすいのは日本のシステムの一つの特徴です。（そもそも模倣の域を出ませんしね）

　仮想的なものだけに現実化した時の問題点を深く考えなくとも実現でき、ほとんどの場合、可能性の議論だけで安易に事が進むからです。

　ＡＩ万能感は企業のこういった浅はかな（自信のなさから来る焦りにかられた）思考を反映しています。よく言いますよね、自信のない人ほどあれこれ手を加えたがるのです。

ＡＩは”託すもの”ではなく”支えるもの”　

　希望的観測が行き着くところ、経営者の理想は人（人件費）の排除です。
　ここにＡＩの万能感という宗教的な思想が現れてきます。
　ＡＩが優れていると表向きで言いながら頭の中では何人分の人件費が浮くかということしか考えてないかもしれませんし、そういった事が全く頭にない経営者はいないでしょう。

　ＡＩの最大の弱点は「責任不在」、つまり責任を取ることができない点にあります。
　もっと言えば「責任を取らなくていい了解があること」です。

　なにしろ事故が起こってもＡＩが犯人であれば責任追及されないからです。
　むしろ自分が責任を負いたくないからＡＩに現場を任せようとしています。
　事故を起こしてもごめんなさいではなく「調査中です」何度この発言を聞いたことか。当事者意識はありません。反省もどこまでしているのか分からない。

　ＡＩを使うならシステムに対する責任があるハズですが、技術者ではないので分からない、技術者は作業計画に最終的な決定権はないので最悪言われた通り、文書に落ちた仕様を実装するだけです。こうなると誰が安全に責任を持つのか、一番システムを理解しているハズの技術者は今の日本社会ではサラリーマンの下層、企業間の下請け構造の底辺のような扱いです。意志決定にどれほどの影響力があるか疑わしい。
　恐ろしいのは反省が表面的に終わるのでまたやらかしかねないことです。
　根本的な体制や仕組みを変えられる人にはＡＩは分からず、分かる人にはその力はないでしょう。技術者が会社を動かすアメリカなどと日本の製造は理念に於いて大きな落差があります。

　レジの自動化で精算が機械でできるようになりました。合理性もあるかもしれませんが、相手がレジの担当者であれば不満や不備を唱える人でも機械に本気で文句を言う人はあまりいません。相手が人間だからムチャな言い分や感情を（不完全ながら）受け止めてくれるのです。（逆に担当者がムチャ言う場合もありますが）
　しかしそれも時によって必要な場合があり、改善につながるものなのではないでしょうか。

ＡＩとは

　以上、ＡＩとは直訳して「ラクがしたい」というその人のホンネを表す言葉かもしれません。
　未来志向で語るほど安泰な技術ではないと思います。
　希望的観測が多く地に足ついてない危なっかしいものかもしれません。

追記：
2019/11/8 記事
「最後まで人間だと認識できず」UberのAI車、初の死亡事故が起きた理由