加速する変化の果てに：社会的ケスラーシンドローム

変化が強調される時代に私たちは生きています。変化しなければ生き残れないという言葉が、特にビジネスの世界を中心に日常的に語られています。同時に、科学技術の進歩は私たちの生活にも絶え間なく変化をもたらし、多くの人が変化することを自明の事のように受け止めています。

もちろん、私たちは科学技術のイノベーションや、社会変革の積み重ねから多大な恩恵を受けており、現代社会はこれらが無ければ成立し得ません。一方で、変化そのものではなく、変化の速度に着目すると、それが加速していくことに私たちがどこまで適応できるかという疑問が生まれます。

この変化の加速を調整できないまま、あまりに速く変化する状態に達してしまうと、社会や個人がその変化に追従できずに混乱や苦しみを生み出す恐れがあります。しかも、変化が変化を生み、誰にもその連鎖が止めらなくなってしまう可能性があります。私はこれを、社会的ケスラーシンドロームと呼ぶことにしました。

この問題の背景には、私たちが気がつかないままに変化を自明で避けられないと思い込んで自ら変化の奴隷となっているという現状と、科学技術の進歩のペースのあまりの速さは得られる恩恵よりも失うものの方が大きい非合理な投機となる可能性があるという側面があります。

現在の人工知能についての懸念は、人工知能が悪意を持つかどうかに焦点が当てられています。しかし、社会的ケスラーシンドロームの問題は、人工知能が悪意を持つかどうかに関わらず、その高度な知的能力が科学技術の高速な進化を生み出すことで引き起こされる問題です。

この記事では、社会的ケスラーシンドロームの概念と、それを取り巻く現状、そして、私たちが科学技術の進歩の速度に対して、自由と主権、そして合理性を獲得しなければならないという主張を展開します。

■技術進歩と社会構造や生活構造の変化

人類は社会を形成し、社会のリーダーは社会を安定させる事を目指してきました。しかし科学技術の発展や社会思想の進歩は、古い社会秩序に破壊をもたらし、新しい社会秩序を生み出す原動力になりました。

これは、新しい社会秩序を持った外の社会からの侵略であったり、社会の内部からの革命であったり、自主的な社会変革であったりしました。

現代では、産業の勃興と衰退、経済的な力関係の入れ替わり、文化やライフスタイルの変化などが、目まぐるしく起きています。

科学技術の進歩が早まれば、これらの変化も必然的に早まっていきます。侵略、革命、変革といった社会構造の変化や、産業、経済、文化、ライフスタイルといった生活構造の変化です。

科学技術の変化が加速すると、社会構造や生活構造の変化も加速します。そして人工知能が新しい科学技術を生み出すようになれば、私たちの想像を超える速度で、変化が加速します。特に、人工知能が人類よりも高度な知能を持ち、科学技術を探求できるようになると、人間の科学者の時代とは比較にならない速度で新しい技術が登場することになります。

これはある時点で、変化の臨界点を迎えるはずです。変化が止まらなくなるのです。社会構造や生活構造の変化が絶え間なく起こり、それを止めることができなくなる状況です。

■社会的ケスラーシンドローム

これは宇宙の衛星軌道上におけるスペースデブリ（宇宙ゴミ）が増えすぎると、そのデブリ同士の衝突と破壊の連鎖が止まらなくなるケスラーシンドロームという現象を彷彿とさせます。

スペースデブリは過去の人工衛星やロケットの残骸で、空気抵抗のない宇宙空間では、衛星軌道上を超高速で飛び回っています。これがぶつかり合うと細かい金属片になってさらにそれが衛星軌道上を超高速で飛び回ります。このスペースデブリの量が非常に多くなると、衛星軌道上を無数の金属片が網の目のように超高速で飛び交い続け、止めることも回収することも不可能な状況が生まれます。これがケスラーシンドロームです。

ケスラーシンドロームが問題なのは、スペースデブリの衝突の連鎖が止められないこと自体ではありません。デブリの衝突の連鎖の中を、人工衛星や宇宙船が安全に通過できないという物理的、あるいは工学的な問題です。

社会構造や生活構造の絶え間ない変化も、一見、大きな問題に思えないかもしれません。しかし、その環境の中を、私たちが生きることができるのかという身体面や精神面の問題です。

社会構造の変化は、政権交代や無血革命といった平和的なものとは限りません。生活構造の変化は、着る服が変わるとか聞く音楽が変わるといった安寧の上での変化に限りません。

力の構図が急激に変化し続けて侵略や革命による血が流れ続け、高頻度のイノベーションにより能力や制度が急激に変化することで経済基盤や財産が破壊され続けることも考えられます。

例えばテロ組織や反社会的な組織が私たちの社会全体を転覆できるような技術を次々に手に入れたり、一か月かけて覚えた業務やスキルが、翌月には意味がなくなってしまうようなことが繰り返されたり、毎年刷新されるデジタルテクノロジを使いこなせなければ不便や損失を受けるような社会を想像してみて下さい。

それが止まることなく延々と繰り返される中を、私たちはどうやって幸福に生きることができるでしょうか。

■変化の奴隷

こうした議論をすると、必ずその対策として、個人の適応能力を高めることが重要だという議論が出てきます。

これは、社会構造や生活構造の変化は、自然災害や独裁的な君主と同じで避けがたいものであり、それを我慢して受け入れるしかないという物語に、私たちを位置づけています。

私たちは、自由を手にしたのではなかったのでしょうか。民主的な社会を手に入れたのではなかったのでしょうか。なぜ、私たちは社会的ケスラーシンドロームという嵐の中で我慢し、耐性を身につける努力を強いられるのでしょうか。

いつの間に、私たちは自分で未来を決めることを諦めて、変化の奴隷となってしまったのでしょうか。

動物は食べ物がなければ生きることはできません。だからといって、フォアグラを作るために強制的に食べ物を胃に流し込まれるようなガチョウの姿は、到底、自由ではありませんし、主権も与えられてはいません。

科学技術の進歩と、それに伴う社会構造や生活構造の変化も同じです。今の私たちは、科学技術の恩恵を享受しています。しかし、必要な分を望むだけ得ているのではなく、変化を強制的に流し込まれています。そこに自由も主権もありません。

■非合理的な投機

科学技術の進歩速度のリスクについて考える時、メリットとリスクのバランスを考える必要があると言われます。これは投機のようなものです。

投機には、明らかに非合理的なものがあります。それは賭けに勝った場合でも、失うものの方が大きくなってしまう場合です。

科学技術の進歩と、それに伴う社会構造や生活構造の変化は、ある種の投機です。過去の歴史は、これらが正当な投機と言えるものでした。もちろん失うものや犠牲になったものも多くあったはずですが、それでも、多くの有益なものが得られたと言えるでしょう。

しかし、その進歩と変化が過剰になってしまう社会的ケスラーシンドロームの状態になるとすれば、これら今までの賭けで勝ち得てきた人類の財産を全て奪われる投機です。科学技術の進歩が加速すれば、これまで人類が長い歴史の中で度々経験したような社会的な変革や勢力図の交代が、短期間に次々と起きることになります。それを防ぐためには、強力な監視や弾圧が必要となりますし、防ぐことができなければ平和な時間は一瞬で失われて常に不安定な状況にさらされることになります。

これによって得られるものがあるという意見を持つ人もいるでしょう。しかし、これまで得てきたものを全て奪われるのであれば、少なくとも私の価値観では、得られるものよりも失うものの方が大きくなります。これは、明らかに非合理的な投機であると私は考えます。

■対策の検討

科学技術の進歩の速度に対して、私たちが自由を維持し、主権を獲得するための合理的なアプローチとして、いくつかの前例を参照することができます。

一つはシビリアンコントロールです。

強大な軍事力は、たとえ高い善意をもって市民保護のために最善と思われる意志決定を行ったとしても、本来守るべきはずの市民に多大な被害をもたらす可能性がある事が歴史の中で露呈しました。このため、私たちは軍事力の行使は軍事の専門家ではなく市民の意志決定に基づくべきだという原則を発明しました。

それがシビリアンコントロールです。このコンセプトを、科学技術開発の速度に対しても応用するべき時が、近い将来、見込まれます。

もう一つは、相互確証破壊です。

これは複数の国が攻撃をしあうと、最終的には双方が崩壊することが確実であるという状況を作り出されることで、逆説的に争いが抑止される状況です。

もちろん、このような状況に陥る事自体が悲劇的ではあり、望ましくないことは確かですが、国際関係の力学を理解する上での貴重な洞察でもあります。

これを科学技術に当てはめて考えると、お互いの国がしっかりと危険な科学技術の開発の速度を管理し、お互いにその状況をはっきりと確認できる状況にしなければ、双方が崩壊することが確実であるという状況を作り出すことを意味します。

ある技術をそれ以上のペースで開発すると、お互いの開発競争が止まらなくなり、双方が破滅に至るという事が確証された場合、たとえいがみ合っている国同士でも、逆説的な協力体制が作られ、相互に国内の状況の疑われないような形で透明化することが必然的な帰結となります。

これは非現実に思う人もいるかもしれませんが、核兵器が超大国同士の直接的な戦争を抑止し続けている現状を見る限り、必然的な流れとなるでしょう。

最後は、基本的人権です。

人権の概念は、それ以前から見れば不可能で理想主義的なものに思えたかもしれません。しかし、個人の権利を保護することが社会の安定につながるという構図は、個人にも社会的リーダーにも受け入れられ、人権思想は広く普及しました。

社会的ケスラーシンドロームの問題に対処することは、同様に、個人にも社会的リーダーにも受け入れられるはずです。このため、普遍的な人権の概念へ、この問題の対処を追加することは合理的です。

基本的人権に追加するべき権利は、変化の奴隷の立場から解放される権利です。これは他者を奴隷にする自由が自由権に含まれない事と同様の理屈で、社会の変化速度を自由に加速する権利は誰にもないということを宣言することに相当します。

■さいごに

人工知能に対する心配事は、人工知能が暴走することに焦点が当てられています。しかし、研究開発者が善良であり人工知能の倫理を深くその技術開発に反映し、そして作り出された人工知能が暴走しないとしても、その高度な知的能力を利用すれば、人工知能技術を含む様々な科学技術がこれまで以上に加速するでしょう。

それは、今からどれくらい先のことになるかは予測できませんが、確実に私たちの生活構造に大きな変化を与える頻度が非常に高くなるはずです。

私たちは、科学技術の進歩の速度と、それによる社会構造や生活構造の変化の速度に対して、自由と民主的な決定権を獲得しなければなりません。そして、そこには無意識的な追従ではなく、合理性が必要です。

科学技術の進歩や、その速度を調整するという考え方は、賛同を得にくい考え方です。また、人によっては、過去の様々な発明や産業革命などの成果と、その混乱への人類の適用を例にして、今後もこうした進歩と変化は同じように繰り返されることになるし、それを制御しようとしたり心配することは無意味だという人もいます。

しかし、シビリアンコントロールや基本的人権の歴史を見れば、社会技術の進歩というもう一つの進歩の側面があることに気がつくはずです。また、相互確証破壊のように、悲劇的で不幸な状況であり、究極的なリスクが目の前にあるとしても、それを管理できる方法を人類が探求する余地はあるという事例もあります。闇雲に科学技術の進歩だけにフォーカスして、それを安全に管理するという方向だけではなく、社会技術の進歩にも力を注ぐ価値はあるのです。

そのために必要なことは、科学技術に対する知識を深める事ではありません。科学技術ではなく、社会技術の理解を深める必要があります。現在の社会がどのような社会技術に基づいて成立しており、その弱点はどこにあるのか。それをどのような方向へと進歩させていくのか。そして、どのように進歩させていくのか。それらを真剣に考える必要があります。

この記事では、現在の社会は、技術の進歩の速度の加速がもたらす影響に対して社会が脆弱であることを指摘し、方向性として文民統制や人権といった社会技術を応用することを提案しました。もちろん、これをどのように実現するかについては難しい問題です。しかし、難しい問題であるからこそ、多くの人の理解が必要なのです。