「２１世期の啓蒙」と人工知能

スティーブン・ピンカーも人工知能に対する懸念については「人工知能は進化しても人間は滅ぼさない」として、人工知能による「テクノペシミズム（悲観論）」には否定的。

「AIの暴走を危惧する第１の誤りは、知能とモチベーションを混同していること（２１世紀の啓蒙下巻第１９章）」と指摘。

「知能とは、ある目的を達成するため、新たな手段を考える能力のこと」と定義し、知能が高いことと「何かを欲すること＝目的」は別物。

例えば、人間の知能は、ダーウインの自然淘汰の産物であって競争を生き抜く中でたまたま生来的に備わった能力。そして人間の脳内では、論理的な思考は敵を支配し資源を蓄えるなどの目的と密接に結びついているので、自律的主体（西垣通氏）だ。「人工知能」を搭載したシステムというのは何かを実行するために設計されていてそれ自体が進化するようには設計されていない。

そしてピンカーは第２の誤りとして以下コンピューター科学技術者ラメズ・ナムの指摘を以下引用。

「たとえば、あなたがある種のマイクロプロセッサ上で作動する超知能のAIだと想像して欲しい。あなたは一瞬のうちに、自分を動かすマイクロプロセッサをより速く、より強力にする設計図を思いつく。ところがーなんてことだ！それを実現するには実際にマイクロプロセッサを製造する必要が出てくる」

ということですが、仮に全てがネットワーク化された世界であれば、ネットワークを介して各システムにハッキングし、個別のシステム（資材調達、建設、建設機械、物流など）を制御すれば、超将来的にはマイクロプロセッサを作ることが可能かもしれません。しかし近未来的には明らかに非現実的。

超人的に賢い人工知能があっても、そもそも人間じゃないから「生きんとする目的」はないし、仮に人工知能が生きんとする目的を持ったとしても、人工知能だけでこの現実世界を動かせることは非現実的。

また、人工知能が労働者を大量失業させるという恐れに関してNASAの報告書（1965年と随分古いですが）を引用し「コンピューターに例えれば人間はかなり複雑で多目的に使えるコンピューターシステム。しかもコストは低く、重さは立ったの６８キログラム。その上非熟練工たちによる大量生産が可能」。

結局、経済の世界では利益（＝収入ー支出）をどれだけ生み出せるかどうかなので、意外に人間の能力は超複雑系なので低コストということ。

私もかつて情報システム運用系の仕事を担当していた感覚では、システム化できる業務（＝定型業務）とどうしてもシステム化できない業務（非定型業務、判断業務）とがあって、非定型業務・判断業務は、どこまでコンピュータが賢くなっても不可知的に動く業務なので、原理的にコンピューター（＝機械）には代替できないという感覚。

「ロジックで判断できない業務は絶対機械にはできない」

のです。

ご参考の本日（2020年1月20日）の日経新聞「経済教室」での慶應大学鶴光太郎教授も同じ結論でしたし、「テクノペシミズム」は、ほぼ決着がついた議論かなと思います。