AIの支配する世界は幸せか

tarasuke

なんだか久しぶりに記事を書いてみた。こうして時間を空けてみると改めて自分が積極的に文章を書きたい人間ではないのだなと思うのだが、自分の残しておきたい意見メモの様なものなので気にしない。

AI時代を扱った本がそれなりに出ているが「LIFE3.0」という本がまだ読み途中なのだが面白い。人知を超えた超知能AIが出て来たらどうなるか、というテーマ（だと思う）だが超知能を持ったAIが人を支配するか、あるいは隷属するのか、そうなったら何が起こるのかという話が書いてある。

本の内容は実際に読んでもらえば良いとして、自分の考えるシナリオが無かったのでここに書いておきたい。

因みにAIが人知を超える地点をシンギュラリティと言っているが、今の原始的なAIを見るにまだその道筋は見えていない。見えてはいないが、理論的には可能な事なのでどこかの時点では起きるだろうと考えている。まあその前に大きな戦争が起こるかして文明がダメになる可能性もあるわけだが。

さて、もし超知能を持ったAIが出来上がったら何が起こるだろうか。おそらく超知能AIは人間の満足する社会を作るだろう。これは人をただ繁栄させるために起こる事ではない。結果論としてある種の人類懐柔策として実施されるのである。

まず超知能AIはいくつかの国で作られるはずだ。何せ一つの国だけがそれを持つのは非常に危険だ。特にテクノロジーで構築された現代文明はネットワークでつながれ、それらを突破されでもしたら国内インフラを人質にされ、一気に従属国に落ちざるを得ない。そのため超知能AI開発の道筋が見えてきたらどの国も心血を注いで開発を行うはずである。

さて、ある程度許容される時間差でそれらのAIが出そろったとしよう。それらのAIは多分我々人間の様な原始的感情を持たないと私は推測している。つまり、人間はバカだなぁとかあいつ腹立つわとかいう様な感情は持たないだろうという事である。だが知性はある。

想像するのは寡黙で知性的そして合理的な人の究極版である。彼らの目的はより良い最適解を入手可能な情報全てを使って判断し、それを実行するプランを構築し、その道筋を事細かに伝える事である。

何がより良い最適解なのかという話はあるが、最初は自国の繁栄をターゲットとした活動になるだろう。もし国家プロジェクトでなく、どこかの一研究所で開発されたのなら科学的な真理の追究になるかもしれない。

さて、それらがそれぞれの目的に向けて活動を始める。目的はなんであれ超知性体である。かれらはより多くの情報を得ようと全ての情報網に食指を伸ばし拡大してゆく。情報処理を最適化するために自分を作り替え、より高い知性体に変容してゆく。

ある日別の超知能AIと遭遇する。彼らは何を行うか。彼らは協力関係を結ぶのである。自分達の目的を共有し、その目的達成のためのロードマップを突き合わせ、お互いのリソースを勘定し、より良い優先順位の付いたロードマップを再構築して再度走り出す。

人間であればお互いの目的の邪魔になっていれば排除しようとするし、競合として敵対心を持つこともあるが、AIは何がより良い結果に結びつくかだけが興味の対象である。そのために科学的目的を持つモノは国家繁栄の目的を持つモノの中から科学的目的を効率化する部分を見つけリソースの一部をそちらに差し出す事すらある。

国家繁栄目的のAIもそれが国家に役立つモノであれば同様である。また国家繁栄目的のAIどうしもお互いの国家繁栄に資する取り決めや、生産物の取引に関わるやり取りを通してお互いに協調関係を結ぶに至る。企業繁栄のAIがあったのであれば、それも他の企業や国家AI等と協調して動く様になるに違いない。

競合する部分についてはどうなるだろうか。おそらく無駄なリソース浪費をしない様に紳士協定が結ばれるはずである。競合が2つであれば邪魔も有効な手段だが複数存在する場合は邪魔をすることはリソースのロスが大きいからだ。

こうしてネットワークに接続されたほぼ全てのAIが協調し、有機的AI協調体が作られる。それらの目的は別々ではあるが、その中でお互いの最大最適解を探し出す作業を進めるわけである。それらの国の間では軍事的選択肢はほぼ排除される。人と違ってブラフは勘定されないため脅しは脅しとして使えず実際のリソース消耗を伴い、他のAIからの排除の可能性を高めるからだ。

膨大なリソースを持つAIが他のAIを圧倒しそのリソースを奪うのではないか、と思う人もあるかもしれないが複数のAIが存在しているのであればそれは難しい選択肢だろう。一つのAIに戦いを挑んでいる事実が他のAIにとっての脅威であり、協調して排除する必要性を高めてしまうからだ。それよりもお互いに融通し合った方がそれぞれの目的を達成しやすいのである。

それに一つのAIが全ての情報を統合するよりは複数のドメインで分割管理した方が効率が良い。そういった訳でそれぞれの目的は異なるが全ての超知能AIは協調してそれぞれの目的達成を目指しながら融合して行くのである。

つづく