AIのリスクより人間のリスク・情報小料理屋　2016/06/23

徒党を組む〝野良ロボット〟が参政権要求、振り込め詐欺、人間に反乱…ＡＩのリスク総務省研究所が報告

　総務省が、ＡＩのリスクをまとめた。なんか、単なる思いつきを並べたようなアイデア・フラッシュのままだなあ、という感じ。AIの問題は、「知能とは何か」というテーマから入って「人間とは何か」という問題まで深化させなければならないだろう。「詐欺」や「反乱」というものが、なぜ、起きるのかという問題にぶつからない限り、対症療法的な対策プログラムを作り続けるしかないだろう。ＡＩの問題は、人間哲学の問題になるだろうし、それはギリシア哲学からの復興などではなく、この時代の哲学を新しく作らなければならないということだろう。

　AIへの危機意識というのは、最近はじまったわけではない。僕は1983年に、あるエンジニアと話していて、ショックを受けたことがある。彼は、こう言ったのだ。「橘川さん、最近の家電というのは、どんどんコンピュータ回路で制御されるようになってきた。クーラーなんかも、風量や温度を自動制御出来るようになってくる。その時、クーラーのコンピュータ回路を設計する人間が、20年後に爆発するというプログラムを入れておいても、誰もチェックできないんですよ。それが、何かの目的のために仕掛けたならともかく、愉快犯として仕掛けたら、犯人も見つけられない」と。

　機械は機械の世界だけで問題を解決出来ない。社会に不満を持つもの、今の社会から疎外されていると思う人間がいる限り、こうした愉快犯が登場する可能性はあるし、システム・テロリストの可能性はある。AIのリスクよりも、本質的なリスクがある。最新鋭の旅客機で高層ビルに突入する人間が生まれてくるのだ。

　技術は技術開発の世界だけで、すべてのものごとが解決すると思っては行けない。その技術が成立する社会環境、人間関係のあり方を同時に観ていかないと、とりかえしのつかない悲劇的な社会が訪れると思う。