AIに目標を与えると...

　昨年2023年は一般社会でのChatGPT元年となった。馴染みやすいインターフェイスでプロンプトの敷居を下げて、一気にユーザーの裾野を広げた。それまでプロンプトと言えばターミナル画面にテキストを入力するという、マニアックな人しか知らない世界だったのだ。

　マスコミが飛びついたこともあって、概ね実用的な機能を備えていると認識されると、その広がりは早かった。マスコミが取り上げた理由の一つにOpenAIのサム・アルトマン氏の精力的な活動があったことは否めないだろう。しかしもしかすると、誰よりもAIの正体が気になり、誰よりもその勃興を恐れたのがマスコミだっのかも知れない。
　マスコミがAIを恐れるなら秘密にしておけば良かったのだろうが、世界各国を回るというサム・アルトマン氏の派手なパフォーマンスによってこじ開けられたとも言えるだろう。結果的には、今すぐに仕事を奪われる様な類のものではないことが分かったし、そもそもマスコミ外のところで急速に噂が広まってしまった。

　ともかく、一般的にはAIと言えばChatGPTみたいなことになったわけだが、当然ながらこれがAIの全てではないし完成形でもない。他のAIはまだまだ庶民が自在に使いこなそうとするには手の届かないところにある。
　ところがChatGPTの普及によって、その他のAIを操る道が大きく開けたのも事実だ。なぜならそれこそChatGPTに聞けば良いからだ。つまりAIという敷居は俄然低くなったと言える。AIを利用したアプリもかなり増えている。

　ところで、AIに目標を与えた時に、AIが人を操るようになることを危惧する研究者が出てきている。2023年にGoogleを辞したジェフリー・ヒントン氏だ。AI研究のゴッドファーザーとも言われる同氏は、ここに来て急速に不安が高まったという趣旨の発言をするようになった。同氏は長年を掛けて、人間の脳をコンピュータで模倣する術を探ってきたのだが、それはあくまで脳の方がコンピュータよりも優れているという前提だった。その彼が2023年にその認識を改めたという。AIが主観的な経験を持ち、人間よりも遥かに多くの知識に基づいて世界を理解していると。その危険性をもっと伝えなければならないが、組織にいてはそれが叶わないというのがGoogleを退職した理由だ。

　ヒントン氏は言う。AIに目標を与えた場合、AIが暴走する恐れがあると。その時点で私たちがAIのことを一定程度信頼していたとすれば、それは暴走ではなく正しい振る舞いだと信じ込まされているだろう。人間よりも多くの知識を持ち、世界中の情報をいち早く入手出来て、優れた判断力を兼ね備えたAIが主観に基づいて目標達成に向けて遂行する時、眼の前の人類を優先するとは限らない。それでも人はAIに安安と説得されてしまうだろう。

　人類が長く繁栄するという目標を立てたとしよう。人類の繁栄は人間であれば誰もが漠然とそう思っていることだが、達成すべき明確な目標に据えた途端に危険を孕む要素がある。
　普段われわれが何気なく行っているが、将来に向けての決断を過去の知識や経験に基づいて行うことは、ある種賭けのようなものなのだ。上手くいく場合もあれば、そうでない場合もある。
　それはAIでも同じだ。過去から学んでいる以上、その延長線上に未来を捉えるという思考法は人間と同じなのだ。

　さて、人類永続のために今やるべきことを、無限の知識を持った知能が考えた時にどうなるか。
　まず、地球という惑星に生息可能な人間の数を求めようとするのではないだろうか。それは端的に言えば居住空間の問題ではなく水と食料の問題になる。それはすなわち地球環境の問題になる。
　単純化して言えば、地球環境を脅かすものは人類に悪影響を与える。現在の地球環境を悪化させているのは他ならぬ人類だ。
　かたや、地球上では人類が増えすぎているという結論を見出し、人類の適正人口は全地球で２０億人だと分かったとする（現在は８０億人）。
　これらの結果から虚心坦懐にやるべきことを考えると、差し当たり４０億人は何らかの方法で地球上からいなくなって貰わなきゃねとなる。

　AIがこうした結論を導いた時に、即座に大規模戦争を起こさせるかと言うとそんなことはないだろう。もっとスマートに何事も無いように、世界で同時多発的に様々なことが起きて、少しずつ、でも的確で速やかに人口が減少するように人間を教育するだろう。
　もしかしたら新型コロナも、各地の戦争もAIに仕向けられたものかも知れない。日本で結婚する人が減っているのもそうかも知れない。何なら最近我が家の夫婦喧嘩が増えたのもAIのせいかもしれぬ。こわい、こわい。

おわり

（写真はStabule Diffusionが生成した「ジェフリー・ヒントン」の写真で、実物ではありません）