AIの脅威、その前に

博士はアール氏を装置のある部屋に案内し、室内の照明を消した。暗い中で、それは、ほのかな金色に光っている。アール氏は言った。
「これは、どういうことなのだ。なにか発光性の塗料でもぬったのか」
「いえ、そうではありません。しぜんに、こうなったのです。原因をいろいろ調べてみましたが、金色に光るようになった理由は、どうしてもわかりません。つぎこまれたデータがふえるにつれ、このようになってきたのです。神々しい感じでしょう」

星新一ショートショート「神」の中の一節

これは、星新一ショートショート「神」の中の一節です。
「神に関するあらゆるデータをつみ重ねてゆけば、この装置は神と同じ性格をもつに至るはずだ。神と同じ性格なら、すなわち神ではないか」
と考えたエフ博士が、世界中から神にまつわる情報を集めてコンピュータに入力する。入力されたデータが増えてくるにつれコンピュータは徐々に金色に発光しはじめる。その結果。。。。
という物語。（続きは原作をお楽しみください。『ちぐはぐな部品』に収められています）

こんにちは。
ITベンダ社員、そして週末大学院生の廣瀬です。

最近、急速に目に、耳にすることが増えてきた「AIの脅威」。それらに触れるたびに、なんとなくこの星新一の「神」を思い出します。

そして、ITベンダー社員として「そもそもAIの前に。。」と感じることも増えています。
様々な業務・手続きををサクサクこなすために導入されている各種のシステム（業務アプケーション）たち。それらは「完全自動化」的な領域にまでは辿り着いていないものの、かなり前から「もう手作業には戻れない」レベルには達しています。

そして、「■■■システム（の画面）」が「目の前にある」ことで、関心と注目がそのシステムが実現しようとしている「本来の目的」ではなく、目の前のシステムに対するところで思考が止まってしまう。ケースを感じることがあります。

根っこは同じなのですが、現れかたに大きく２つの傾向あると感じています

■ケース１

システムメニューのボタンを押せば処理が行われ完了となる。そんな場合はシステムの機能にまかせすぎになってしまい、システムを使う人が、そもそもの業務の内容・手順、目的・本質を見失いそうなケース。

もちろんシステムを開発した当時は、発注側（使う人）、受注側（システムを開発する人）の担当者がひざを突き合わせながら、業務フローを整理しシステムに落とし込んだ。のだと思います。その結果、使う人の負担は各段に減りました。しかし、時の流れにを経て、使う人側に業務ノウハウが蓄積されなくなった。
というケースです。システムの操作はできる。しかし、なぜその処理が実行されているのか、そのチェックが必要なのか、など細かか規定、条件を十分に理解している人が絶滅危惧種になってしまっている……。

たとえば、
・洗濯機が普及したことで洗濯の方法、手順（柔軟剤を入れるタイミングとか）はよく分からない
・調理家電しか使っていないので、本来の料理手順を十分に理解していない
という日常生活の問題であれば「便利になってよかったね」と思うことも可能です。しかし、クリティカルな業務でこの事象が起きるのはいろいろ危うい感じがします。

■ケース２

「目の前にある」●●●システム（の画面）で思考が停止してしまう。その結果、改善を考える際に、業務内容・手順そのものの見直しではなく、システムの操作性改善という表面的なことに執着してしまうケース。

このケースは、
「このシステムの操作がヤヤコシイ。もっと簡易な操作にできないか」
的な改善要望の中に紛れています。
もちろん、貴重なご意見です。
そんなご意見の中には「お気持ちは分かるのですが、それはシステム操作以前の問題なのでは？？」と感じるものが混じっていることがあります。
確かに操作は少しヤヤコシイかもしれません（少しどころでない場合もあります。そのれはスイマセン……）。しかし、その操作は「必要な手続き」を実現している「必要な操作」なことがあります。
となると「そうですね。システムの操作を変えましょうか」と単純にはいかないことになります。
「業務を整理してからシステム化すべきでしたね」というのは今だから言えること。
システム化導入時にはその時点で可能な業務整理は行った。しかし、その結果、「この手順を省略・整理するにはかなりの難儀な意思決定が必要となる。だから、現状の手順は残す」などの判断があったかもしれない。使う人、作る人、双方の先人たちのさまざまな立場の人たちの葛藤があったのではないかと推察します。

そもそも、システム導入は目的ではなく手段です。何らかの目的を実現するための。
その手段であるシステムに対して「なんとかならんか」ということを悩むときには、目先のシステム画面を見るだけでなく、本来の目的を見直す。というか、本来の目的を見失わない。ことが大切なように感じます。