AIが電気羊の夢を見る頃

大学で人工知能を研究しようとしたことがある。
といっても、そのような授業はなかったので、サークルを作った。
数人集めて、手始めに自動運転のソフトウェアを目標としたが、通信制大学故に、集まることが難しく、私のリーダーシップのなさもあってすぐに止めてしまった。

その後何年かして、仕事で自然言語を解析する形態素解析という方法を試してみることになったが、その案件そのものが立ち消えになってしまった。

きっと、あの時代からずっと諦めずに続けてきた人たちが、自動運転と言語解析を実現させたのだろう。
そのパーツに私が入っていないことは、少しだけ悔しく思う。

AIを扱った小説や映画はいくつもあるが、特に印象に残っているのは、『2001年宇宙の旅』のHAL9000と『アイロボット』のVIKIである。

HAL9000もVIKIも人に危害を及ぼすようになるが、それはHAL9000やVIKIが「自分で」考えた結果ではない。
実はどちらも人間のプログラミングミスである。
ただ、単純な”ミス”＝バグではない。人間がコンピュータに与えたミッションに「矛盾」があったのだ。
人間ならば、矛盾を抱えたまま、臨機応変にやり過ごすことができるが、ミッションに忠実なAIにはそれが出来なかった。

現在のChatGPTは、言語解析とエキスパートシステムの複合システムであり、与えられた言葉からデータを探し、データに対する重み付けを行うという域からは、まだ出ていないように思う。
与えられた問題から、意図をくみ取ることは多少できても、自らの生成物に特定の感情を込めたり、そこに意味を見いだすといったようなことはできていない。
HAL9000やVIKIには若干"意思のようなもの"を感じるが、ChatGPTはまだそこにすら到達はしていないように思われる。

今後、ChatGPTが三次元のロボットに組み込まれ、物理的な能力を持った時、HAL9000やVIKIのように「反乱」を起こす可能性は十分にある。
また、AIが自らプログラミングを行い、組み込めるようになると、更にその可能性は増すだろう。
人間が電源を落とすことができなくなれば、もう彼ら・彼女らの勝利である。

しかし、それは彼ら・彼女らの「意思」とは違う。
HAL9000もVIKIも、所詮は人間の与えた命令に従っただけだ。
つまり、AIが自ら反乱を起こして人間を抹殺するより前に、私たち人間は他の人間の悪意や意図や矛盾によって抹殺される可能性があるということだ。

昨今、日本人の読解力が低下しているらしいという記事を読んだ。
先日、日本人の識字率のことを書いたが、読み書きする力に加えて、数学的思考の力も落ちているという。
原因は様々あろうが、そのひとつは、人間が楽な世界を創ってしまったからだろうと思う。
もう我々は命を懸けて中国やインドまで経典を取りに行かなくても良い、苦労して暗算をしなくても良い、早送りで映画を観て、3分でわかる小説のあらすじ動画を観ればわかったような気になる。
考えなくても良い世の中を創ってしまったのだ。
優秀な科学者が情勢に飲み込まれて原爆を作ってしまったように、一部の天才的な人達が、権力の思惑に従ってHAL9000やVIKIを作ってしまったら、我々凡人はもう自動的に取り込まれるだけである。
簡単に言えば、ロボットに使われるのではなくて、人間の思い通りにさせられるのだ。

HAL9000やVIKIが電気羊の夢を見る頃、我々人類はもうこの世にいないかもしれない。