我々はAGIを構築できるか? |サラ・ウォーカーとレックス・フリードマン

レックス・フリードマン「人工生命体、人工意識、人工知能を人工的に設計するためのショートカットはあるのでしょうか。現在の大規模言語モデル(LLM)を実用的に見ると、生命の性質、意識の性質、私たちが考えるような知性の性質を示すことができると思いますか。」

サラ・ウォーカー「私はすでにそうだと思いますが、一般的に議論されているようなやり方ではありません。明らかに知性のシグネチャがあり、知的システムの生態系の一部ではありますが、個別に見た場合、人々が想定しているような特性をすべて備えているとは思えません。以前に目の歴史について話しましたが、目が技術的な形に発展したのと同じように、言語もとても興味深い歴史を持っており、書き留めるようになってからはさらに面白くなったと思います。本などを発明したときもそうでした。言語を新しい方法で保存し始めるたびに、私たちは実存的なトラウマを経験してきました。例えば、書き言葉というアイデアはトラウマティックでした。亡くなった人々が私たちに語りかけているように感じられたからです。本もトラウマティックでした。突然、この情報のコピーが大量に誰もが利用できるようになり、それが何らかの形で希釈されてしまうと思われたからです。大規模言語モデルは興味深いものです。それほど静的ではないからです。非常にダイナミックです。前述したように、言語を時間の中で非常に大きな構造として考えてみると、以前はそれが人間の脳に分散したダイナミックな構造でしたが、時々そのダイナミックな構造の一部を本や書き言葉に保存していました。今では、そのダイナミクスを物理的な人工物、つまり大規模言語モデルに保存することができるのです。ある意味、ゲノムの進化のようなものだと思います。最初の生物には本当にプリミティブな遺伝子があったかもしれませんが、それほど多くの情報を保存できなかったり、本当に乱雑だったりしました。真核細胞になると、書き換え可能な非常にダイナミックな遺伝的アーキテクチャを持つようになりました。そして、さまざまな特性を持つようになりました。大規模言語モデルは、ある意味では言語の遺伝的システムのようなものだと思います。それは、人類の歴史を通じて進化してきた、この巨大な抽象的構造の時間的な結晶化を可能にし、今ではそれを小さなデバイスに入れることができるのです。」

レックス「結晶化というのは、その能力に限界があることを意味しているような気がします。」

サラ「非常に意図的に使っています。特定のデータセットで訓練された特定の言語モデルのインスタンスは、その時点の言語の結晶になるからです。しかし、明らかに私たちはこの技術を反復し、進化させています。」

レックス「結晶化するとき、圧縮するとき、アーカイブするとき、人類の集合知性のある断面をアーカイブしているのですね。」

サラ「そうです。問題は、それがどれほど強力なのかということです。社会レベルのテクノロジーですよね。私たちは集合知性を箱の中に入れたのです。」

レックス「人間の集合知性は、個人の人間よりどれだけ賢いのでしょうか。それがAGIと人間レベルの知性の問題であり、超人的レベルの知性と人間レベルの知性の問題なのです。この技術が十分に洗練され、多くの複雑性や計算の複雑さを解決したとき、おそらくデータの複雑さもあるでしょうが、このものを本当にうまくアーカイブし、結晶化するにはどうすればよいのでしょうか。どれほど強力になるのでしょうか。あなたの考えは。」

サラ「実のところ、私たちがその周りで使っている言葉があまり好きではありません。言葉は本当に重要だと思います。ある人間が他の人間よりどれだけ賢いかを語る方法がわかりません。通常、誰かが持っている能力や特定の才能について話します。デビッド・ディーンズのユニバーサル・エクスプレイナーのアイデアに戻りますが、私たちは私たちの生物圏が構築した最初の種類の構造であり、現実の残りの部分を理解できるという見方を採用しています。私たちにはこのユニバーサルな理解能力があります。彼は、基本的に私たちは何かを理解する能力を実際に持っている最初のものだと主張しています。個人がすべてを理解しているわけではありませんが、その能力を持っているのです。だから、ある意味ではそれとAGIについて人々が話していることの間に違いはありません。AGIはユニバーサル・エクスプレイナーです。でも、コンピュータが素因数分解をするのが人間よりずっと効率的かもしれませんが、それは必ずしもそれがより賢いとか、人間よりも理解できる種類のものの範囲が広いことを意味しているわけではありません。だから私たちは本当に、それがレベルシフトなのか、それとも人間が持っている特定の種類の能力を強化しているのかを考える必要があります。望遠鏡や顕微鏡を作ることで視力を強化できるのと同じように、私たちは自分の能力をテクノロジーに強化しているのでしょうか。そして、グローバルなエコシステム全体がより知的になっているのでしょうか。それとも、本当に箱の中にスーパーマシンを作っているだけで、それが賢くなって皆を殺すのでしょうか。それはSF小説のようですが、悪いSF小説のようです。私はそれが私たちが構築しているテクノロジーや、それらを説明する方法に実際には正確ではないと思います。私たち自身を説明する方法でさえないのです。」

レックス「慈悲深いストーリーは、私たちの経済や生活様式を変革することができる慈悲深いシステムがあるというものですが、これらは人間の問題ですよね。」

サラ「そうは思いません。それらは必ずしも人工知能にアウトソーシングする質問ではないと思います。今起きていて、今後も起こり続けるのは、人間とテクノロジーの共進化が起きているということです。私たちは今このエコシステムの中で共存しており、バランスの多くを維持しています。バランスがテクノロジーにシフトするには、非常に悪い人間の行動者が必要になります。これは本当のリスクです。あるいは、何らかの動的なものが、私はどのようにそれが人間の主体性なしに、その方向に進むのかわかりません。」

レックス「急速な速度も怖いかもしれません。」

サラ「そうですね。恐ろしいことは、ディープフェイクのアイデアや、人工知能技術に関する法的問題になるようなあらゆる種類の問題、それらを兵器の制御に使用したり、児童ポルノグラフィーに使用したり、誰かの愛する人が誘拐されたり殺害されたりしたことを偽装したりするようなことです。このような状況では、非常に怖いことがたくさんあります。新しい法律を作る必要がありますし、人々がそれを悪用しないように、技術にガードレールを設ける必要があります。それは起こる必要があります。現在の文化における人工知能の終末論的な部分の一つの機能は、それが来ることを知っている私たちの免疫反応のようなものだと思います。私たちは自分自身を怖がらせすぎているので、より迅速に行動しようとします。それは良いことです。しかし、私たちが使う言葉と、言葉の背後で実際に起こっていることについては、私たちが本当に理解するのはあと1世紀か2世紀先になるでしょう。もしかしたら永遠に理解できないかもしれません。そして、私は確かに、それらが私たちが今説明しているようなものではないと思います。」

レックス「実存的なトラウマを作り出すことは、人生を楽しくする要素の一つですね。」

サラ「私たちが自分自身にしていることですからね。それは私たちに本当にエキサイティングな大きな問題を解決する機会を与えてくれます。」

レックス「これらのAIシステムが意識を持つようになる、あるいは意識を持っていると確信するようになり、私たちがそれらと恋愛関係を持つようになると思いますか。」

サラ「人々はそれらと恋愛関係を持つようになると思います。そして、すでにそれらが意識を持っていると確信している人もいると思います。しかし、何かが意識を持っていると人々を説得するには、私たちは実際に何について話しているのかというアイデアを持つ必要があります。それは、検証可能な、物事が意識を持っているかどうかを説明する理論を持つ必要があるということです。現時点では、そのような理論はありません。だから、私たちがそれを持つまでは、常にグレーゾーンになると思います。それを持っていると思う人もいれば、そうでないと思う人もいるでしょう。なぜなら、私たちは実際にそれが何を持っていると考えているのかわからないからです。」

レックス「グレーゾーンから抜け出して、意識のための正式なテストを持つことは可能だと思いますか。」

サラ「間違いなくそう思います。生命についても同様です。意識は厄介なものです。」

レックス「厄介なものですね。だからこそ、意識のハードプロブレムと呼ばれているのですね。」

サラ「そうですね。科学の範疇を超えているかもしれません。つまり、科学的な方法では理解できないかもしれないということです。それを理解する他の方法があるかもしれませんが、それらは必ずしも技術的な有用性のために、あるいは技術を規制する法律を策定するために必要としているものではないかもしれません。法律は技術を支配するものですから。」

レックス「実際、そこに意識のハードプロブレムの別のハードプロブレムがあると思います。人間は最後まで、他の何かを意識があると呼ぶことに抵抗するだろうと私は恐れています。」

サラ「それは興味深いですね。でも、文化によって違うと思います。なぜなら、すでにすべてのものに生命の本質や意識が宿っていると考えている文化もあるからです。」

レックス「そのような文化は核兵器を持っていないでしょう。」

サラ「そうですね。そして、おそらく最も高度な技術を構築してもいないでしょう。他者を破壊するために準備された文化、他者が何であるかを非常に効果的なプロパガンダマシンを構築する文化、憎むべきグループである他者は、人間によって創造されたものの中に意識が宿っていることを認めることを非常に嫌がるでしょう。」

レックス「では、意識のあるものが私たちに怒って反撃してくるというリス
クはどうでしょうか。」

サラ「いいえ、私たちが意識のある存在を拷問したり殺したりするということです。」

レックス「ああ、そうですね。私たちはすでにそのようなことをたくさんやっていますよね。」

サラ「どう感じればいいのかわかりませんが、すでに話したように、捕食者と獲物の関係については、ある意味で生きるためには他の生きているものを食べる必要があります。ベジタリアンであっても、生きているものを食べています。」

レックス「そうですね。地球上のすべての複雑な生命は、その捕食者と獲物のダイナミクスの基盤の上に築かれているのかもしれません。」

サラ「そこから逃れることはできないと思います。でも、これが私が有限の生涯を持つことに満足している理由の一つなのです。実際、それはこの資源の制約の問題に戻ってきます。私たちは有限の量の物質を持つ世界に住んでいます。物質をどのように定義するかに関わらず、私にとって物質は時間であり、情報ですが、私たちは有限の量の物質を持っています。もし時間が生成メカニズムであるなら、それは常に有限になるでしょう。なぜなら、宇宙は生成されつつある資源ですが、サイズがあるからです。つまり、存在し得るすべてのものが存在しているわけではなく、実際にはそのほとんどが存在しないということです。
ですから、死は宇宙の中に、そうでなければ存在できない他のものが存在するためのスペースを作る一つの方法なのです。もし宇宙が時間的な歴史全体を通して存在できるものの数を最大化したいのであれば、それを行う最良の方法は、私たち 人間のような再帰的に埋め込まれた積み重ねられたオブジェクトを作ることです。小さな空間の中に多くの構造を持ち、それらのものを急速に入れ替えることで、可能な限り多くのものを作り出すことができるのです。
ですから、宇宙全体にはそのような種類のものがたくさんあるはずです。うまくいけば、私たちの宇宙は生命にあふれているでしょう。」