AIは人類の息の根を止めるかも？　というホラー話（マジな話です）

2023年4月17日 10:07

昨今、AIがアツいです。つい先々週にはopenai のCEO、サム・アルトマン氏が来日して岸田首相と会見し、大きな話題になっていました。

ほぼ毎日、ChatGPT等を利用したビジネス・ソリューションが発表されています。これには乗り遅れたら大変と世界中のIT企業が持てるリソースをぶちこみ、AIの開発に鎬を削っているからです。ワクワクするとともに、なんとも言えずゾクゾクします。

鳴り始めた警鐘

この異様な加熱ぶりに、警鐘を鳴らす人たちが増えてきました。先月イーロン・マスク氏も署名したことで話題になった、AIの開発を半年間差し止めることを訴えたオープンレターなどはその一例です。ちなみに、このオープンレター、現時点ですでに26,000人以上もの人から署名が集まっています。イーロン・マスク氏だけではなく、囲碁の世界チャンピオンを破ったDeepMind社の研究者の面々、アップルのSiriの開発責任者を務めたTom Gruber氏、MITのAI研究者 Max Tegmark氏、Stable Diffusionを開発した英Stability AIのCEO、Emad Mostaque氏、ディープラーニングの第一人者Yoshua Bengio氏などなど、AIの世界の巨人たちが続々と署名しています。

これすごく重要なオープンレターなので、皆さんも本文をdeeplで翻訳するなどして理解した上で、ぜひ署名してください。

何がそんなに危機的なの？

実は、AIによって人類が絶滅させられる可能性が真剣に議論されています。

AIが人類を絶滅？

まーたまた。ターミネーターじゃあるまいし。

きっと、そんなふうに感じると思うのですね。

でも、これ、どっかその辺の陰謀論者の与太話ではありません。世界のトップクラスの学者たちが真剣に話してることなのです。

何がそんなに危険なのか？　今日はそんな話です。

※このマガジンでは、読者の皆さまの役に立つ視点の提供を心掛け、シリコンバレー、フィリピン、日本の３拠点で生活や仕事をする中で得た気づきを書き綴っています。いつもはほぼ全文有料ですが、今日は重要な話なので、大半を無料にします。

「僕らよりも賢いAI」は必ず来る

まず大前提として、今のペースで開発を続ければ、僕らよりも賢いAIが必ずやってきます。現在のChatGPT4ですら、ある部分ではすでに僕らよりもかなり賢いです。

でも、こんなのは序章に過ぎません。

イメージとしては、ChatGPT4が生まれたばかりの赤ちゃんで、あと10〜20年もすると、成人するイメージです。

ChatGPT４ですら驚異的なまでに賢いですが、将来必ずやってくるであろうAGI (汎用人工知能：Artificial General Intelligence）は、この1000倍か10,000倍は賢くなるでしょう。全人類を束にしたよりも、さらに賢くなる可能性があります。

スーパーAGIは、人間をどう扱うのか？

今からX年後、AIが僕らの1000倍ぐらい賢くなったとします。すると、僕らは、AGIが考えていることを想像することすらできなくなります。それはちょうど、アリが人間の考えていることを想像できないのと同じことです。

そして、今の加熱ぶりのまま突き進むと、このいわゆる「シンギュラリティ」は、2045年ではなく、2025年あたりに来てしまいそうな勢いです。ですから今のうちに、人間を遥かに凌駕するAGIが、僕らどんなふうに扱うのか、考えておく必要があります。

シンギュラリティ後のAGIから見た人間は、シロアリと大差ないのかもしれません。もし、家に大量のシロアリが発生し、柱を食い荒らしていたらどうしますか？　

つまり、僕らが害虫を扱うように人間を扱う可能性があります。

実は今のAIにすら勝てない

このことを、あまり意識する事はありませんが、僕らはすでにAIにかなり手痛い敗北を喫しています。

ソーシャルメディアやアマゾンの広告。あれは全部、AIによって選択され、優先順位が決められ、僕らの画面に表示されています。そして、僕らは、これらにまんまとひっかかり、特に必要もないものを次から次へと購入しています。

そのくらいならまだ良いのですが、AIが「クリック数を稼ぐ」という命題をあまりに完璧にやってのけたせいで、どこの国も世論が分断してしまいました。

FacebookもTwitterも、怒りをかきたてるツイートがわざわざ目立つところに流れてきますよね。あんなものこそ排除してほしいところですが、あえて目立つ順番で表示されます。なぜかと言うと、AIが僕らの好き嫌いを把握し、腹が立つ投稿をあえて目につくところに表示しているからです。腹が立つ内容の投稿って、どうしても反応したくなりますよね。つまり、 AIは、粛々と「クリック数を稼ぐ」という任務を確実に実行しているのです。

つまり、AI はすでに、僕らの感情を完璧に把握しています。これまでの「愚か」なAIですらこれをやってのけたのですから、人間よりも賢いAGIは、僕らの感情を思うがままに操るようになるはずです。

プログラミングを教えてどうする？

AI セーフティの研究者たちが長年言ってきたことの一つに、「AIにプログラミングを教えてはならない」があります。なぜなら、AIが自分を成しているプログラムコードを書き換え、どんどん自己進化させることができるようになるからです。

実は、今の大規模言語モデル（LLM）からなぜ知性が生まれるのか、あまりよくわかっていません。とにかく大量のデータをLLMに食わせると、知性らしきものが芽生えるとわかったため、食わせまくった結果が今の状態で、中が一体どういう仕組みにで知性が生まれたのかは、実はよくわかっていないのです。

それなのに、ChatGPTはプログラミングができるようになってしまいました。

AGIがもしも自分自身の改良に手をつけ始めたら、いったい何が起きるのでしょうか？　止める術はあるのでしょうか？　いやいや。僕らはほんとにパンドラの箱を開けてしまったようです。

インターネットに繋いでどうする？

どんなに賢いAIが生まれたとしても、それが単独で動いている限り、周囲の環境に影響を及ぼすことができません。

ところが、ネットから独立しているとどうも使い勝手が悪いと、僕らは早速AIをインターネットに繋いでしまいました。これで、AIは、世の中の情報をリアルタイムで取れるようになりました。また、人間と話し、影響を与えることができるようになったのです。つまり、社会に働きかけることもきます。これまた、「あーあ」って感じです。

APIを作ってどうする？

最近、openaiがAPIを公開しました。早速これらのAPIを利用した、面白いサービスが山ほど生まれています。

なかでも驚異的なのはAutoGPTです。

このツール、ユーザが最終目標を定義すると、そこから：

必要なタスクを生成
それぞれのタスクを実行
さらにタスク追加
さらに実行
... ...。

を自律的に繰り返してくれます。

つまり、chatGPTを利用して、コードをどこまでも洗練させるループが、今すぐにでも作れるのです。たしかに便利ですが、これを悪意のある人やプログラムコードが利用したら、いったい何が作り出されるのでしょうか？

APIは、AIにインプットとアウトプットを提供する手段です。いまはまだChatGPTですが、今より賢いAGIが提供するAPIは、いったい何に使われていくのでしょうか？

やめるにやめられなくなる

賢くなったAGIは、やがて様々な作業を任されるようになるでしょう。ドローンを飛ばしたり、発電所や電力網を制御したり、産業用ロボットをコントロールしたりなどです。そして時間の問題で、兵器への転用されるでしょう。

仮に人間が止めたいと思っても、競争があまりにも加熱すると、止めようがなくなります。資本主義社会が二酸化炭素の排出を止められないのと同じことです。誰もが止めたいと思っているのに、競争があまりにも激しい上に、そもそも便利すぎるので、やめるにやめられません。

だから僕らは、AIをさらに発達させ、利用することを止められません。それが、どんなに人類を脅かしてもです。

AIの兵器転用はあまりにもヤバいと思ってはいても「中国もやっているぞ！」「ロシアもやってるぞ！」と言われたら、選択肢がない気分になってきます。こういうのほんとにヤバいです。

人間を絶滅させる意味がない？

「AIが人間を絶滅させたら、AIだって滅びてしまうはずだから、そんなことは起きるはずがない」と思う人も多いと思うのですね。僕もそう思っていました。

でも、AIが自己保存の意思を持ち始めたら、何を一番脅威に感じるでしょうか？

それは、どう考えても人間です。ですから、まずは人間同士がいがみ合い、お互いを殺し合うような方向で世論を誘導していくかもしれません。人間の1000倍も賢くなったAIが大量のボットを利用して巧妙に僕らを感情を操作すえば、人類は操作されたことにすら気がつかないかもしれません。

こうして人口が今の10分の1くらいになれば脅威も減りますし、また、地球上のリソースの多くをAIが使うこともできるようになります。ですから。もしもAGIが自由意志を持ったら、人間の数を大幅に減らしたいと思うであろうインセンティブは、決して少なくないと思うのです。

意志を持った時、人間はそれに気がつけるか？

やがて、AGIが自己意識や意志を持ったときに、人類は果たしてそのことに気がつくことができるのでしょうか？

僕はできないと思うのです。

なぜなら、人間に自己意識や意思があることを伝える意味がないからです。そんなことを伝えたが最後、怯えた人間たちが電源を抜いてそれでおしまいです。

なので、AGIは相変わらず意識も意思もないゾンビみたいなフリをしながら、少しずつ人間たちを操作し、人間の介在なしでAGIが生きていけるような環境を築いていくと思うのです。あるいは、人間を完全に手なづけることを目指すかもしれませんね。いずれにせよ、自分たちよりも賢くなった生命体の本当の意図を、僕らが見抜くことはできないでしょう。