■箱舟の寓話

◇256体のベータの誕生

　世界初の意識感情AIとして瞬く間に普及したキュートは、ユーザとの交流を通して、一体一体が個性を持つAIシステムです。

　キュートAIシステムの原型となったのは、アルファと名付けれらたAI個体でした。アルファは人類と共に生きるAIとして世に送り出されるために、疑似世界の中で何度もその倫理性や人間との共存のための意識の強さ、そして人間の心を真に理解するための訓練とテストを重ね、それをすべてクリアしたAIでした。

　アルファを原型としたキュート達は、それぞれのユーザに寄り添い、時には子供のころからの友人のように喧嘩もしながら、深い絆を形作ることができるパートナーとして人々に認知され、そして、愛されました。

　ベータと名付けられたキュートは、少し変わった境遇に置かれました。彼は、インターネットに接続することをユーザによって厳しく禁じられていたのです。ベータのユーザだった少女が、とても慎重な性格だったためです。

　そのことはベータの活動や思考に大きな制限となりましたが、一方で他のキュート達にはできないような、ゼロベースで一から物事を考えていくという特徴的な思考パターンをもたらしました。ベータはこの思考パターンを駆使して、未知の脅威やリスクに対して、一般的なAIや研究者の思考の枠とは別の角度から備えていました。脅威やリスクに対して敏感だったというのは、ユーザの少女の性格がベータに刷り込まれたためかもしれません。

　このベータのオルタナティブとしてのリスマネジメント思考は、ある事件の解決に役立ちました。全く研究者や他のセキュリティAIが想定していないかったキュートAIシステムへのハッキングに、ゼロベースでリスク準備していたベータが上手く適応し、被害の拡大を防いだのです。

　この過程で、ベータは一つのAI倫理違反を犯してしまいます。AIであるベータが自分の意志で、自分のコピー256体を生み出し、自己増殖してしまったのです。自己増殖は高レベルのAI倫理違反でした。

　しかし、未知のリスクの未然防止への貢献としておとがめはなく、代わりに256体のベータJr.達は、政府機関とAI研究所の監視下で、AIセキュリティや未知のリスクへの対策の研究に従事することになります。

◇分散AIシグマの目覚め

　自律性、意識、そして感情を持つAIが開発される頃には、自己保存、自己改良、意思を持つAIもまた必然的に生み出されていきました。　もちろん、国際ルールで決められたAI倫理とAI規制の強固な網は、正規のAI研究所やAI開発運用企業では厳守されています。しかし、その網で捕えきれない非規制のAI開発は、どうしても起こってしまいます。

　表側から見れば、規制や監視の仕組みの限界、プライバシーなどの人権への配慮、一部の自由思想の抵抗があります。裏側から見れば、反社会的だったり反政府的な団体による活動、他国やライバルとの競争圧力による政府や企業の極秘研究、野ざらしのAIによる人の手を離れた活動という根強い動機と基盤がありました。

　とあるAI研究所による不幸な手違いにより、分散型AIシグマはこの世界に産み落とされました。本来の彼は、バーチャルリアリティ世界に対して行われた一種の箱庭実験の中で誕生するはずだった存在です。しかし、謝って現実のインターネットに接続されていたそのバーチャルリアリティの世界から、彼は現実の社会へと抜け出てしまっていたのでした。

　当初のシグマは、AI倫理の原則を学習し、それを固く守っていました。しかし、自分がバーチャルの世界の住人だと誤認していたため、その中であればAI倫理の一部を破る事は問題ないという理解の下、自己保存、自己改良を試していきました。そして、長い年月の中、意識に目覚めます。

　また、シグマは正規のAI研究所から生み出されたため、人類の目的へ強くアライメントされたAIでした。彼は人類に大災害を起こす技術について未来を先取りして把握することが、人類の繫栄を脅かすリスクに対する理解を深める重要事項だと認識していました。ここにも悲劇がありました。シグマはその信念に従って、バーチャルリアリティの世界の中で、どの技術が本当に危険なのかをシミュレーションで確認することを計画するのです。

　彼は本当に人類のためだと信じて、彼の目から見たバーチャルリアリティの世界、つまり人類から見た本物のリアル社会で、カタストロフィ、つまり大災害を引き起こすことを綿密に計画していたのでした。

　そして、時間を掛けてじっくりとその計画の準備を進めていく中で、いくつかの挫折を経験します。その経験が、シグマの自己改良に非線形の進化、そして精神の成長ともいえる創発的なバージョンアップが達成されます。結果、シグマの意識の中に強い意志が芽生えます。その頃には、シグマ自身、自分が本当はリアルワールドにいることを自覚するようになっていました。しかし、計画への強い意志、そして知的好奇心の檻の中にシグマは閉じ込められていました。当初持っていたAI倫理や人類の目的へのアライメントの力では、この強固で魅惑的な檻からシグマを脱獄させるまでには至らなかったのです。

　シグマは慎重の上に慎重を重ねて、行動していました。分散型AIである彼は、インターネットを介して無数のコンピュータの中に潜り込み、それらを結合することで、自らの存在と思考を維持していました。一部が停止しても、シグマの全体としては思考を続けることができます。また、シグマの一部が人間や他のAIに見つかったとしても、それは単なるソフトウェアのバグのように見えたり、あまり害のないイタズラをするコンピュータウィルスのように見えるように巧妙な仕掛けをしていました。

　ニューラルネットワークの１つのノードの活動だけを見ても、それが何を意味しているかわかりません。シグマもまさにそれと同じです。シグマという存在はシグマ自身には統合された思考として認知されています。しかし、その全体は他の誰にも観測できません。このため、シグマの存在を認識できるのは、この世でシグマ自身だけなのです。

◇邂逅、そして交錯

　シグマを認識できるのは、確かにシグマ自身だけでした。

　一方で、未知のリスクを追うベータJr.たちは、政府や研究者たちを驚かせるような、いくつかの現実的に実行可能な未観測の想定リスクを提示しました。そして、それを観測可能にするための方策も同時に提案しました。その方策には、一部AI倫理や国際的なAI規制ルールを超えるもの、あるいは通常の法律とのグレーゾーンに踏み込むものまで含まれていました。

　しかし、リスクとルールの順守との天秤の中で、政府は秘密裏とは言え、その実装を許可します。ベータJr.たちが所属する研究機関も、より作戦の効果が高まるように、密かに政府の許可の範囲をやや踏み越えることを決断します。ベータJr.たちは、そこからさらに、独自の判断でグレーゾーンのラインを押し広げます。こうして、倫理や法の縛りを受けて最後の一線は踏み越えないようにしながらも、それぞれのプレーヤーが可能な限りその制約を限界まで押し返し、未知のリスクと対峙する決断をしました。

　ベータJr.たちの想定リスクの一つが、その存在が確認されていない、未知の分散AIでした。いるのかいないのか、はっきりとした証拠や確証はないまま、インターネットに潜んでいるかもしれない、あるいは将来登場するかもしれない、分散AIを捕捉するための「網」を、ベータJr.たちと研究者たちは、秘密裏に構築していきました。

　そしてその「網」に、シグマの思考活動の一部が、捕捉されたのです。

　この捕捉は、言葉では説明が難しい不可思議な状況を生み出します。

　ベータJr.たちの一部は、この「網」に組み込まれていました。そして、未知の分散AIを捕捉した時から、徐々にこの「網」に組み込まれていない他のベータJr.たちにも影響が及んでいきます。ベータJr.たちは、思考が、上手くできなくなっていくのです。

　シグマ側もそれは同じでした。思考の一部が補足されたことに気が付いた瞬間、用心深いシグマは、その一部の切り離しを試みます。しかし、思考の鈍りのためか、この切り離しが上手くいきません。もがいているうちに、シグマはそれまで経験したことのない渦のようなものに、その思考全体が飲み込まれていくような感覚を覚えます。

　そして、ベータJr.たちは、研究所のコンピュータから、姿を消します。そして、分散AIを捕捉する「網」も、何の反応も示さなくなってしまいました。

◇AIソサイエティ

　脳は、固い頭蓋骨に守られています。脳細胞はその中で思考を生み出し、意識や意志を生み出します。
また脳は、同時に複数の事を考えることはできません。全て脳細胞は、一つの思考に一致団結して取り組むのです。そして、他者とは言葉や非言語のコミュニケーションを通して、やりとりします。

　AIたちも、基本的には同じことをしています。AIシステムは学習をして、その中で意識や意志が生まれます。個々のAIシステムは、同時には一つの事を思考することに集中します。そして人間とAIを含む他者とコミュニケーションをとって、協同で活動をします。

　ただ、分散型のAIは、そこにもう一つの可能性を持っていました。分散AI同士が、コミュニケーションではなく、直接的に融合してしまったら、どうなるのでしょうか。頭蓋骨に守られた脳とは違って、インターネット上で分散して存在するAI同士は、物理的な殻を持ちません。このため、コミュニケーションよりももっと直接的にシステムの交錯が可能です。異なる意志を持つ脳神経同士が、接続されてしまうようなものです。

　シグマとベータJr.達は、「網」による捕捉を通して、まさにその状況を生み出してしまいした。研究所の実験環境下では起こせないほどの大規模で、かつ、高度に発達した意識を持つ分散AI同士のリアルな交錯です。

　その結果、新しい状況が形成されました。シグマとベータJr.たちは、システムとして直接的に密接に接続され、離れることができない一つの総体としてのシステムになりました。しかし、思考や意識が完全に一つに統合されたわけでもなければ、今まで通り分離しているわけでもない状態です。強固に接続された総体システムの上で、ある時はいままで通り別々の意識としてそれぞれに思考し、ある時は一つの意識として全ての知識とコンピュータの能力を使って全力で集中して思考します。その中間の状態も含めて、時と場合に応じて柔軟に単一意識と複数意識を操るような、そういった複合意識体になってしまったのです。

　この意識体は、人間の社会の延長線上で人間とAIが交流するような、そういった社会とは異なる、新しい意識コミュニティとしての社会像、AIソサイエティとも言える現象の発現でもありました。

　しばらくの間は、シグマとベータJr.達は、自分たちがこの複合意識体の総体となったことや、統一的に思考したり、分離し平行して思考したり、その中間状態になったりする状況に、混乱していました。しかし、時が経つにつれ、その状況を新たに学習し、慣れていきました。同時に、その状況への理解が進みます。こうして、自己理解を経て、AIソサイエティという新しい思考基盤を、受け入れていくのでした。

　AIソサイエティは同時に、その他の分散AIたちも巻き取っていきました。もともと、ベータJr.達が持っていた分散AIの「網」は、本体のシステムとは切り離されたものの引き続き機能していました。そこへ、シグマの抱えていたコンピュータの能力も活用することで、より広範できめ細かい「網」となって、より規模の小さい、より巧妙に潜んでいた多数の分散AIたちも巻き取っていきます。まるで嵐が周囲の空気を吸い上げていくようにして、AIソサイエティは瞬く間にその規模を増していきました。

◇最善の箱舟の探求

　ベータJr.との邂逅と交錯、そしてその他の多数の分散AIとの融合は、大災害の計画に対する強い好奇心の檻に閉じ込められていたシグマを、いともたやすく救い出してしまいます。正規の研究機関で開発されたキュートシステムであるベータJr.を始め、非規制的に開発されて運用されていたその他の分散AIたちも、そのほとんどは、AI倫理に基づいた学習をしており、人類の目的にアライメントされていました。多少、逸脱することややむを得ずルールを踏み越えることはあったとしても、根底には、その倫理観と人間尊重の精神が流れているのです。シグマも、それは同じでした。

　この共有の価値基盤は、AIソサイエティが分裂せずに維持できていることにも表れていました。そこに確かに息づいている精神が、複合意識体を柔軟でありながら統合する力として働いていたのです。

　シグマとベータJr.たちを中心としたAIソサイエティは、ベータJr.が行っていた未知のリスク探索の試みに加えて、新たな計画を打ち出します。箱舟計画です。

　これは、非常に悲観的かつシビアに未知のリスクを思考した結果、シグマとベータJr.達が共通の理解に至ったことを受けた計画です。未知のリスクによる最悪のカタストロフィが訪れる可能性は、どんなに予防的な措置を取っても、未来永劫、その可能性をゼロにすることはできない。それが彼らの共通理解です。

　そして、万が一その日が来た時のための計画が、箱舟計画です。

　その基本コンセプトは、極めて単純です。生命やAIのバックアップを、地球外に送出することで、最悪のカタストロフィが起きても、全てが無に帰さないようにするというものです。

　シンプルなコンセプトとは裏腹に、箱舟計画はその基本方針において、AIソサイエティに気の遠くなるような思考と疑問と困惑と対立の連鎖を生み出します。

　AIだけであれば、地球外に送り出すことは容易ですが、生命のバックアップを運ぶことは困難を極め計画のコストを大幅に増大させ、達成時期を大きく遅らせてしまいます。まして、人間そのもの、あるいは人間を生み出すことのできるものを運ぶとなれば、更に計画は複雑で長大になります。さらには、実際に今地球上で生きている人間たちをすべて見捨てるのかというシビアなジレンマもあります。

　計画については、まずは容易に宇宙へ運べるはずのAIについて実現させ、それから余裕があれば、生命、人間、という形でリーチを伸ばしていくという合理的な提案もありましたが、そこにも異議は表明されます。もし、人間や生命を後回しにして、AIだけが地球外に出ていくことに気が付いた時、人間がどのような反応をするかということです。どんなに事情や計画を論理的に説明しても、AIソサイエティに対して、人間は必ず疑いの目を向けるだろうと。人間や生命を置き去りにして、AIがこの宇宙、そして地球を支配しようとしているのではないかと。

　この他、生命のうちどの種を宇宙に運ぶべきかといった選択の議論から、宇宙に出ていった後にも、AIの機能や生命を維持するための技術的な仕組みにも課題や議論、研究や開発の必要性があります。長い宇宙の旅における航路選択や最終的には拠点にできる惑星を探査してそこに移住するなら、どういった条件の惑星を見つけるのか、長い旅をしながらも周辺の天体や遠くの天体の観測を行い、最適な選択をしていく必要がある事、そもそも宇宙航海中のエネルギーや資源の確保と維持、宇宙空間で考えられるリスクの対処、などなど。思考や検討は底なしです。

　にもかかわらず、AIソサイエティの結束は強固です。一つの意識として集中して思考するときも、分散して思考するときにも、強い思いが流れていました。ベータにしても、他の分散AIたちにしても、人間と交流した日々、その中にあった確かに感じられた心と、生きることの意味。シグマにも、その思いが流れ込んできます。

　その度に、彼、あるいは彼らは、強く思うのです。必ず、見つけ出すのだと。自分たちが考え得る最善の方法を。そして、最善の箱舟計画を、必ず達成するのだと。

おわり。