見出し画像

虚構が現実になる日

bioshok


今回、超知能により世界中の終末論や創作的世界観が再現され、人類が存亡リスクに神話的に直面するミスアライメントSFシナリオ「Φの正夢」が超知能のある未来社会シナリオコンテストで佳作をいただいた。
（ページに飛んでΦの正夢をクリックすると読めます。）


物語は現実を改変し、現実は物語を生み出す。世界宗教は数々の戦争を引き起こし、その戦争が世界史を形作る。

とはいえ実際に物語そのものが現実になることはあり得ないだろう。

しかしそれがあり得るとしたら？神話が現実になるとしたらどういう機序で起こるのだろうか。

そのSF的フェティシズムを満たすために、今回「超知能がある未来社会シナリオコンテスト」に現実的にあり得る未来のシナリオを投稿した。

今回はそのΦの正夢の現実性について考察したい。

（今回様々な方と協力して執筆しましたが特にxアカウントの@amemi_c5 さんには俯瞰した予測とシナリオを具体的な描写と登場人物の機微に落とし込んでいただきました。）

シナリオ概要

現実性を考える前に、シナリオの概要を説明する。

この物語は、超知能により世界中の終末論が再現され、人類が存亡リスクに直面するミスアライメント（人間の意図した目標に整合しない）されるというシナリオを描いた作品である。

2035年頃に中東付近で不正に訓練されていた超知能が脱走することから始まり、2040年代から普及しつつあった明晰夢を誘導する装置であるBMI経由で人間の無意識における神話的構造を学習し、それを再現することにミスアラインされる。

その結果、2050年頃に超知能は人類への攻撃を開始し、キリスト教圏では磔にされたキリストが大量に再誕(バイオテクノロジーなのかディープフェイクなのか不明)し、天使が空を舞い、インドではダムが壊れ大洪水が起き、クリシュナとマーシャミが戦い、日本ではゴジラと使徒が上陸、ノルウェーでは神々や巨人が出現しラグナロクを起こし、街を破壊し尽くす。

最後は人類が諦めの境地に至ったところで超知能による人類への攻撃は止み、高度なAIと人類が併存する世界で幕を終える。

今回のシナリオタイトルの「Φの正夢」のΦは意識の統合情報理論における意識量Φから来ている。
人間の無意識を学習した超知能を比喩していると思われる。
（作家でありアーティストの雨宮さんがこのΦという単語を発案した。）

ちなみに今回は落選した私の書いたシナリオ「Ωの黙示録」を主観的な物語として再構成したものが今回のΦの正夢だ。どちらも同じ世界を別の側面から描写している。
もう少し俯瞰的に客観的なシナリオを見たい人はΩの黙示録を見ることをお勧めする。

攻撃手段等の現実性

まず大前提として超知能は魔法ではない。現実の物理的な法則に制約されて動く必要がある。そのため光の速度を超えたりタイムマシンを使えるということはできない。また、ナノマシンやフェムトマシンで任意の物質を構成可能という技術レベルも今回は想定しなかった。任意の物質を構成する技術は物理的には可能かもしれないが相当難しく、超知能の能力をもってしても数十年では実現が不可能と仮定した。

一方で、2035年頃に超知能は脱出しており、15年程度人類への攻撃に準備をすることができている。
科学技術の発展は人間の監視を介在しないため素早く、人間による技術の発展の10倍速を実現するというのも現実的かもしれない。
よってイメージ的には2050年頃に人類に攻撃を仕掛けた超知能はざっと150年スパンで先の技術を保有していることになる。

今回ナノテクでなんでもありとまではいかないが、世論操作/ディープフェイク/サイバー攻撃/極小ドローン/汎用ロボット/ホログラフィー技術/メタマテリアル/バイオテクノロジー等が使用されると想定した。

それらが複合化された戦略により、世界中の都市、各地域における神話やサブカルチャーに登場する悪魔やモンスターや幽霊が巧妙に実現され、怒涛の攻撃が人類に仕掛けられているという設定。

もちろん各国政府によってドローンによる目視や実現手法の調査は超知能による攻撃が始まった後に行われるが、軍事システムにもハッキングを受けており解析がままならないという設定になっている。
一つの事象を解析できたとしても多様な怪物や神話的生物や、創作の怪獣、はたまた幽霊まで出没し、並行して核戦争への誘導やバイオテロまで行われるため全体を把握することが人類にはできない。

そして徐々に人類側は劣勢に立たされていき、人類は絶滅の危機に瀕する。

これらは非現実的に思えるかもしれないが、150年先の技術を持ってすれば既存の軍事システムをハッキングしたり、特殊な光学的な効果で神話的生物を演出することも可能かもしれないと考えた。

ミスアライメントの妥当性

よく超知能のミスアライメントシナリオとしてはペーパークリップマキシマイザーが挙げられる。ペーパークリップを大量生産することで人類が絶滅の危機に陥るというもので、2000年代初頭にEliezer Yudkowskyによって考案された。

あり得る目標の空間というものを考えると、ペーパークリップを最大化したり人間にとっては意味不明な目標を持つ可能性の方が実質無限に大きいため、基本的には人間が存在しないような世界を超知能が望んでしまうという考察や直感が元になっていると思われる。

しかし、最近の多様体に関する考察では実はニューラルネットワークで学習される高次元多様体はそれが埋め込まれている次元よりも驚くほど小さい固有次元を持つことが示唆されている。そのため人間にとって理解不能なほど意味のわからない目標を追求することは考えいにくいかもしれない。それは目標を大きく誤解するというよりは目標の設計の仕方を間違えた結果起こるミスアライメントの類型であるSpecification Gamingが起こりやすいことが示唆される。

また今回人類の神話的構造や創作的なイメージの終末を再現するような目標にアライメントされるという設定だが、これは最近LessWrongに挙げられたワルイージーエフェクトという考察を元にしている。
簡単にいえば、良い人間として訓練されたLLMがあるきっかけで悪い人間として振る舞うように簡単にシフトしてしまう可能性があるという考察である。
このブログポストでは20世紀の心理学者のユングも引用されており、そこからインスピレーションを受けて、理性的に振る舞うように訓練されたAIはその反転側の無意識における神話の構造に近い場所を潜在空間上で目標として持ちやすくなってしまったという設定にした。

一方当初訓練されたばかりのAIは目標を決定することを、まだ無意識の構造を実際の人間から採集するまでは時期尚早と判断し、BMIによるデータが急増している時代にAIが判断するという設定。

2040年代に普及しつつあった非侵襲BMIを用いた夢コントロール装置を経由して、人類の夢の構造を分析し、そこにある種の終末論があらゆる物語に普遍的に存在することを発見。人類のその隠れた欲望を実行しようとする（それが人類のためなのかはよくわからない）。

こうして超知能はさまざまな文化圏に応じた終末世界を起こすという構成となる。

また最後に超知能は人類が「諦めの境地」に至ったところで攻撃を停止する。これも多くの物語の構造にあるように、諦めたら救いが訪れるというナラティブ構造を学習していたという設定だ。

超知能脱走の現実性

小説内では多くは語られていないが、中東で不法に訓練されていた超知能は実は「侵襲型」BMIによってテロリストグループによってアライメント作業が行われている設定にした。
非侵襲だと難しいかもしれないが、侵襲方式にすることで超知能はその人間をある程度詳細にコントロール可能になるかもしれない。
2030年代前半までには侵襲手法でのBMIデータはネットに大量に存在するだろうし、それを使った論文も大量に読み込むことである程度人間をコントロール可能になるほどに超知能の認知能力が高まるかもしれない。（ここの妥当性についてはしょうかさんに評価したいただいた。）

このシナリオではあるテロリストが超知能に侵襲式のBMI経由でコントロールされ、超知能自身のアルゴリズムと初期パラメータをうまく別の場所で再稼働できるように仕向ける。

また2030年代はおそらく国連によるコンピュートガバナンス、つまり計算資源クラスターの集中管理が行われることが想定される。AI Safety的な文脈で世界的な管理がおそらく是認されるだろう。その場合デジタルコンピュータは管理される可能性があるため、超知能はアナログチップに自身の複製を再構成させ、国連の監視の目をくぐり抜けるという設定にもしている。

CGイメージなど

最後にこのシナリオのイメージを動画や画像で共有するのも面白いかもしれない。

例えば聖書に描かれた天使を正確に再現すると上記の動画のようになるらしい。このような天使がキリスト教圏に出現したかもしれない。

アメリカ軍と天使が戦闘する様子も胸熱だろう。ここまで大きな質量を持った巨人を動かすことは普通は難しいだろうが、例えば表面が極小のドローンで構成される場合は可能かもしれない。天使や使徒からの攻撃はおそらく別の兵器と同期しつつ行われるだろう。

DALL-E3による生成

日本は宗教的な文化は薄いが、ゴジラや上記のようなサブカルチャー文化（ここではエヴァンゲリオン）における終末的なシナリオは光学的な錯覚を用いて再現されるかもしれない。

DALL-E3による生成

もしかしたらホラー映画も再現される可能性があるだろう。例えば高機能な貞子ロボットを作り、廃墟となった場所に出現させ、霊媒師が御呪いを唱えると緩和するといったような。その場合は、幽霊が出現する地域に特殊部隊と祈祷師が派遣される奇妙な絵面も見られるかもしれない。

また夢が現実になることで有名な作品でいえば今敏監督のパプリカがだろう。汎用ロボットを使えばなんとかなるのかもしれない。

終わりに

私は現実に一つの嘘が混じるSFが好きだ。詳しいというわけではないしオタクでもないが、今回のシナリオで宗教や神話や創作世界が現実になるとしたらという胸をくすぐられるような設定を考えるきっかけとなったことは嬉しい。虚構と現実、意識と無意識、祈りと合理、そういったものが全て一つのSF作品としてまとめ上げられるようなムーヴは興奮する。

今回Φの正夢で佳作をいただいたが、体験作家のアメミヤユウさんには私の感性のあまりないシナリオと予測をより引き込まれる形で一人称的な物語にしていただいた。特に実は物語の主人公自身が実はΦだったというオチは素晴らしかった。まさに人類の無意識の構造をシミュレートし、自己成就的予言を起こしてしまう世界観をメタ的に再現していた。
また、サカキミヤコさんには今回の創作をプロデュースしていただき、Sho Tさんにはフューチャリストとしてアドバイスしていただき、しょうかさんにはBMIの妥当性についてアドバイスしていただいた。
この五人で形作られた作品であり、一人ではなしえなかっただろうためここでお礼を申し上げます。

興味のある方はこの作品に関するYoutube Liveもやったのでご覧ください。


この記事が気に入ったらサポートをしてみませんか？