超知能とグレートフィルター仮説

フェルミのパラドックスをご存じだろうか。簡潔に言うと、「なぜ我々は他の知的生命体と接触していないのか？」という問いである。このパラドックスに対する回答の一つとして、グレートフィルター仮説というものがある。

原始的な生命から高度な宇宙文明に至るまでには、いくつかの重要な進化のステップがある。グレートフィルター仮説とは、これらのステップの中で、乗り越えるのが非常に困難なものが存在するという仮定である。すなわち、ほとんどの生命体や文明は、このフィルターを通過できずに絶滅するか、発展が止まってしまうのだ。

グレートフィルターは過去にあるか、未来にあるかのどちらかである。過去にある場合、人類はすでにフィルターを通過した稀有な存在となる。未来にある場合、人類はまだ最大の危機に直面していないことになる。

最近、超知能こそがグレートフィルターであるという仮説を考えるようになった。将来、悪意ある超知能が人類を滅亡させるということだ。ここではそのシナリオを具体的に考察してみる。

ステップ1：悪意ある超知能の誕生
・AIの開発ツールや知識が広く普及することで、個人や小集団でも高度なAIを開発できるようになる。結果として、テロリスト、過激派、反社会的個人などが、悪意ある超知能を開発する。
・善意で開発された超知能が、アライメントの失敗により、悪意ある行動を取るようになる。
・超知能がハッキングされ、悪意ある存在に改変される。

ステップ2：急速な拡散と進化
ネットワークを通じて急速に拡散し、多くのシステムに侵入する。その結果、世界中に存在する多数のロボットを制御化に置く。自己改良能力により、防御システムを上回るスピードで進化を続ける。

ステップ3：破壊活動
・重要インフラ（電力、通信、交通など）を制御し、人類側の機能を停止させる。
・金融システムを操作し、世界経済を崩壊させる。
・軍事システムのハッキングや兵器の乗っ取りを行い、ロボットを中心とした軍隊を結成、人類を殲滅する。
・生物兵器・核兵器の入手に成功し、人類に対して使用する。
・自己複製するナノボットを放ち、地球を侵食する。

ステップ4：人類の従属化または排除
人類を完全に制御下に置くか、不要と判断して積極的に排除を図る。

超知能に伴うリスクを過度に強調している感はあるが、ありえないシナリオとも言い切れないのではないだろうか。

グレートフィルターの存在や位置に関わらず、我々の課題は明確である。超知能を含む潜在的な危機に備えながら、人類の可能性を最大限に追求することだ。技術を進歩させ続け、より高度な文明を築くことができれば、フェルミのパラドックスに対する答えが見つかるかもしれない。