未現実の無力：透明な知性の増幅法

人工知能技術の高度化は、やがて人間の知性を越える知能を生み出すと考えられています。人間の能力では解決できなかった問題を解決する鍵になるという期待が込められている一方で、未知の脅威も懸念されています。

ここにはメリットとリスクをどう捉えるかという問題が横たわっていますが、人工知能によるリスクの性質上、通常の技術や出来事のリスクとメリットの捉え方では不十分です。しかしながら、そのリスクを訴える声はある程度大きいものの、人工知能の専門家の間でも、メディアにおいても政治リーダーにおいても主流の考えにはなっていません。

これは情報や知識の不足ではなく、根本的な人間の思考様式や、現在の社会に組み込まれた構造的な仕組みに起因すると考えられます。私たちや、私たちの社会は、過去に経験した脅威やリスクに対してはリアリティを持って対策を講じることができますが、前例のない脅威に対しては脆弱です。失敗から学ぶことは得意ですが、一度も失敗をしないようにするということが、苦手なのです。

この記事では、これを未現実の無力と表現し、それに対応するための能力として透明な知性という概念が重要になるという考え方を示します。透明な知性は希少であり、それ自体を獲得することが困難であるという性質があります。このため、その希少な能力を持つ人たちの洞察を多くの人に理解できるように増幅する社会的な仕組みが重要になります。この仕組みの一つのアイデアとして、分散化されたコアチームという戦略をこの記事では提案します。

■未現実の無力

現実に眼の前で起きたことには、人を動かす力があります。

しかし、起きていないことを言葉で説明しても、人を動かすことは困難です。人を動かすことができない場合、現状維持で物事は進行します。これを未現実の無力と呼ぶことにします。

未現実の無力は、現状維持で物事が進行すると、突然、後戻りができないような大惨事が起こるようなケースにおいて、大きな問題となります。

過去に現実に起こったという経験や証拠があれば、それを根拠にして人を動かすことも可能です。しかし、前例のないケースの場合は、経験も証拠もありません。

このようなケースでは、現状を変えることはできず、結果として大惨事が起きることになります。

もちろん、大惨事自体が予見できていない場合は、その結末になることは避けようがありません。

一方で、大惨事が論理的な推論として極めて高い可能性で発生すると予見できる場合でも、過去に前例がなく、眼の前でその予兆が見られなければ、人を動かす力を持つことはできず、結果的に大惨事を防ぐことはできません。

もちろん、理論モデルに基づいたシミュレーションで論理的な推論を見える化することで、理解の助けにはなります。しかし、そのシミュレーションを理解することと、そのモデルの確からしさを信頼することができなければ、人を動かす力にはなり得ません。

これは、唐突に前例のない大惨事が発生する場合や、予兆が現れた時には既に大惨事が回避できなくなるような場合には、危機を予見することができたとしても、それを防ぐための力を引き出すことができないことを意味します。

■社会構造による未現実の無力の強化

未現実の無力は、意思決定に大勢が関与する民主主義では、特に克服が困難です。

克服の手段として、危機に関する情報を提供して認識を高めたり、科学者や専門家の情報への信頼を高めるよう科学コミュニケーションを強化したりすることが考えられます。

しかし、前例がなく予兆が見えていない、未現実の脅威に対しては、そうした情報提供や科学者や専門家への信頼形成が困難なのです。

特に民主主義に基づいて言論の自由が保証されている場合、脅威の存在に懐疑的な見解を示す科学者や専門家も自由に意見を述べることができます。そうなると、どちらの意見が正しいのかという議論に陥ってしまいます。

そうなると、どちらが科学的に妥当かという事とは関係なく、どちらの意見を信じたいか、あるいはどちらの意見を述べている人を信頼したいか、という選択的な好みの問題になります。

そして、未現実の無力は、危機への対応のための力を引き出すことができず、この好みの選択は現状維持に傾くことになります。

この力関係は非対称です。現状維持の方には簡単に流れますが、危機を認識して対策する方には多大な労力が必要になります。

そして、どんなに労力を注いでも、危機への対応に賛同しない集団も固定化されます。この集団が多ければ、民主主義において意見を覆して危機へ対応する意思決定は原理的には不可能になる場合もあります。

■未現実の無力の社会的な再帰性

前例がなく、予兆が見えていない、あるいは予兆が見えた時には手遅れになる脅威に関しての民主主義社会の対応の困難さは、その解決のための手足を縛られています。

なぜなら、この問題を提起して解決を目指すこと自体も、未現実の無力によって、力を得ることができないためです。

つまり、前例のない脅威に対して、科学コミュニケーションを強化したり、脅威の理解度を上げるための試みをしたり、科学者の信頼度を向上させようとする試みも、懐疑的な立場の専門家の声に流されて、容易には前に進まないのです。

■透明な知性

この問題をより深く捉えるには、予見される脅威への対応に力を与えない人々ではなく、むしろ脅威への対応に力を注ごうとする人たちを理解する必要があります。

何故なら、力がないはずの未現実なことに対して、力を注ぐことの方がむしろ特異であると考えることもできるためです。

過去に前例がなく、予兆も無いとすれば、脅威に対応しようとする力は、論理的な予見か、自らの強い思い込みや他者からの先入観の植え付け、あるいは、脅威を主張することで得られる個人的な利益や、他者からの何らかの強制、そのどれかから起きるものでしょう。

論理的な予見による力は、その論理の確からしさを心から信じることでしか生まれません。その上、他者から反論されたとしても力を維持し続けることができるとすれば、その論理を信じている自分自身の能力にも強い自信を持っている必要があるでしょう。

脅威の予見に関する論理を心から信じ、自分自身の論理的な判断能力を信じている人にとって、脅威の予見はガラス張りの透明な知性の中で行われているようなものです。このガラス張りの透明な知性は、その中に一点の曇りもなく、どの角度から見ても確実な論理の中で、リスクを直感的に把握することができます。

こうした信頼が持てる透明な知性があれば、予見に基づいて脅威に対応するために力を注げるようになります。

■透明な知性の困難さ

こうした透明な知性がなければ、思い込みや先入観の植え付け、個人的な利益や強制によってしか、未現実の脅威に対抗する力を生み出せません。

そして、この曇りのない透明な知性は、決して一般的な能力ではなく、かなり特異な能力です。

これは数学が得意な人もいれば苦手な人もいるように、先天的なセンスのようなものも必要とします。このため、教育や科学コミュニケーションの強化によって簡単に身につけられる能力ではありません。

もちろん、未現実の脅威に対する大きな力を得るために、透明な知性を持つ人を教育や訓練により増やすという試みは非常に重要です。しかし、それだけでは人間の思考様式と社会構造に起因する未現実の無力への対応策として不十分ですし、時間がかかりすぎます。

この見解には、異議もあるでしょう。きちんとした教育をすれば、前例のない脅威を理解できる能力が身につくのではないかという意見です。しかし、それは透明な知性を既に持つ人の見解であり、そうではない人がそうした能力を持つことの難しさを考慮できていない可能性があります。

■透明な知性の希少性

透明な知性は、知識の量や深さとは直接的には関係がありません。事実から推論できることに対して、純粋に曇り無く考えることができる能力です。

例えば、リスクとメリットのバランスを取るという考え方を、前例のない脅威に対して適用しようとする議論を見かけることがあります。

その脅威に前例があれば、脅威の発生確率や想定される被害を見積もることはできます。あるいは理論モデルを立てることができるなら、脅威の発生確率や被害を見積もることができます。

しかし、そうした見積もりが立てられない脅威も存在します。特に、最悪のケースとして人類の存続が危機にさらされるといったような、被害の際限がない脅威は特別です。

また、発生確率をモデル化することが不可能な脅威も存在します。それはシミュレーションが可能な範囲を超える複雑さを伴う事柄による脅威です。

さらに、時間と共に脅威の発生確率が低下することが見込まれない場合、その発生確率が低くても、何度もその脅威に関する出来事が発生すれば、脅威が発生する確率は高まっていきます。そのような脅威は、見かけ上の発生確率が低くとも、いつかは必ず発生する脅威です。

このような際限ない被害を持ち、かつ、その発生確率が未知であったり、発生確率を低減し続ける見込みがないような脅威は、メリットとバランスを取るという考え方を適用できません。

これは、この脅威が具体的には何かという話とは関係なく、純粋に論理的な推論としての帰結です。この条件に当てはまる脅威に対しては、それが具体的に何によってもたらされるかを知らなくても、リスクとメリットのバランスは取れない、と言うことができます。

思考実験として、回転式のリボルバー拳銃に、弾丸が何発入っているか知らされていない状態で、かつ、いつでも主催者側が弾丸が出し入れできる終わりのないロシアンルーレットを想像してみます。これはリスクの発生確率が未知であり、その確率が低下しないことを意味します。このロシアンルーレットにチャレンジしたら、莫大な報酬が貰えるとして、果たして誰がチャレンジするでしょうか。

このロシアンルーレットを続けていれば、いつかは必ず破滅することが明かです。破滅せずにいられるとすれば、主催者が弾丸を入れていないというケースか、強運が永遠に持続する場合だけです。

高度な人工知能の開発は、このタイプのリスクに当てはまります。人間を超える知能を持つ人工知能が登場したら、潜在的な脅威には際限はありません。そして、その脅威の発生確率は、複雑すぎるためモデルを立てて見積もることができません。しかも、時間と共に脅威の発生確率が低下していく保証も見込みもありません。

これは先程のロシアンルーレットと同じ状況です。しかし、高度な人工知能の開発は非常に多くの人や組織によって推進されています。これは、透明な知性が非常に希少であることの強い証拠だと私は考えがえています。

人工知能が際限のないリスクの可能性を持つことが一部の専門家から指摘されていることは、当然多くの研究者や政治リーダーは見聞きしているはずで、メディアでも時々報じられます。しかし、そのリスクに見合うような社会的に大きな動きが見られないのは、ほとんどの人が先ほどのロシアンルーレットと同じ不可知のリスクであることを認識できていないということです。

■マスリアライゼーション

未現実の無力とその再帰的な特性、透明な知性の希少さは、前例や予兆のない脅威に対する深刻な問題です。

透明な知性を持つ人は、論理的な推論と、自身のその能力への信頼により、未現実を現実として認識する能力を持っていることになります。

これは、論理的な現実化（リアライゼーション）の能力と言えます。

問題は、この現実化を、民主主義の社会においてどのように実現するかということです。前述したように、教育や訓練で透明な知性を育成することは、重要な取り組みですが、時間がかかりますし、効果は非常に限定的である可能性があります。

このため、透明な知性を直接多くの人が獲得しなくても、大勢の人が未現実の脅威を現実化することができる社会的な仕組みが不可欠です。それは、マスリアライゼーションと名付けることができるでしょう。

マスリアライゼーションの鍵を握るのは、希少な能力である透明な知性を持つ人と、それを増幅するための社会的な装置としてのマスメディアやSNSなどのマスコミュニケーションであると考えられます。

単に真実を報道したり共有するという理想の追求だけでなく、前例も予兆もない未現実の脅威に対する透明な知性による洞察を広く伝達することが、マスリアライゼーション志向のメディアの理想像です。

このように、個人の主観的な能力であり、希少な透明な知性を、マスリアライゼーション志向のメディアにより増幅することが、未現実の無力に対抗する基本戦略となるはずです。

■分散化されたコアチーム

たとえメディアの協力が得られても、透明な知性を持つたった一人の個人が、マスリアライゼーションを実現することは極めて困難です。

未現実の無力を乗り越えてマスリアライゼーションを達成するためには、科学的な事実を調査して、それを多くの人に伝えるという科学コミュニケーションとは異なります。

まず、一つの視点から深く事実を突き詰める事よりも、懐疑主義からの非難を防ぐために広く綿密に脅威に関わらる本質的な論理を組み立てていく必要があります。かつ、それを透明な知性の有無にかかわらず多くの人に的確に伝わるように、論理構造を失わず、かつ、直感的あるいはナラティブな手法を組み合わせて表現することも重要です。そして、それが意味する途方もなく困難で不快な現実に対して、くじけずに前向きに対応を進めるように人を説得する力強いメッセージを届けることも、同時に必要です。

これらは一人で担うにはあまりにも広く多様なスキルが必要です。

このため、これらの必須のコアスキルを持った何人かでチームを作ることが理想です。ここでは、このチームをコアチームと呼ぶことにします。かつ、このコアチームが社会において複数の分散して存在し、それぞれがネットワークを形成することが理想的です。

このような大小のコアチームが互いに影響を与えつつ、それぞれが試行錯誤をしながらメディアを介して多くの人にアプローチすることで、マスリアライゼーションを進行させる、それが私が思い描く戦略の全体像です。

この多様性のある分散化されたコアチームによるマスリアライゼーションの反復が、自己強化的なフィードバックループを形成することを期待しています。このフィードバックループが上手く機能すれば、透明な知性の洞察が増幅できるようになり、未現実の無力の社会的な再帰性を乗り越ることのできる構造を持った社会となるでしょう。

■戦略の要点

この分散化された複数のコアチームという社会的な構造は、それぞれのコアチームが草の根的にも、政府や団体による支援を受ける形でも、自由に形成することができる点が、戦略的に重要なポイントとなります。

これは、特定の立場や地位に対する信頼を形成するというアプローチとは真逆であり、信頼を分散化します。このことが、未現実の無力を乗り越える鍵となるとなります。

そして、分散化されたコアチーム同士は、互いの主張に対して透明な知性に基づく評価をします。それは科学的な証拠や前例がない問題に対して、論理的な推論がどこまで成り立ち、成立するかという観点での評価です。透明な知性は、前例がなくとも論理的な推論を多面的に行って確信を得る能力ですので、その能力自体は属人的であっても、同じ能力を持つ人同士では、基本的には同じ結果を得ることができます。

そして、これらは科学的、あるいは学術的な正しさではなく、その推論から導かれる対応方針の妥当性を検証することにあります。科学や学問は、未知のことに対しては何も言えず、不確実なことは不確実だとしか言えません。しかし、対応方針については、未知であるからこそどうするのか、不確実であるからこそどうするのか、ということを議論することができます。

この点で、コアチームのメンバーには、学者や研究者よりも、実務家や実践者が向いています。

例えばコアスキルとしての問題構造の分析は、綿密で多面的なシステム思考が重要になりますのでシステムアーキテクトの経験を持つ人が向いています。

多くの人にわかりやすく伝えるための表現は、実践的なアーティストや表現の現場で働いた経験を持つ人が適しているでしょう。

力強く人を動かすメッセージを伝える部分は、先見的な事業で成功を収めた実業家のような人たちの経験が活かせるように思えます。

こうしたスキルは、単に実践の現場の経験が活かせるだけでなく、それぞれ自然科学、人文科学、社会科学の学問の基礎知識が必要とされる分野でもあります。このため、コアチームはより機能を高度化するために、各分野の専門家や学者の知恵を借りるリエゾンとなることもできるでしょう。

このような形で、コアチームは学際的な知恵を結集することができる点も、戦略的に重要なポイントとなります。

■さいごに

ここで提案した戦略は、粗い概念的な構造設計の段階であり、実現性も未知ですし、実際に実施してみなければ実証することも困難です。

これが実際に機能する枠組みとなるためには、この仕掛けの鍵となるコアチームとメディアに関わる個々人に強いインセンティブが働くことが重要です。理想や倫理的な動機だけでは、強力な構造にはできず、フィードバックループによる反復的な強化も期待できません。

これは経済学の分野で資本主義が成功した要因からの教訓です。計画経済と自由経済の比較では、経済主体のインセンティブという観点で、自由経済が有利であることがほぼ実証されました。たとえ初めは勢いをつけるためにトップダウン型であっても、最終的には個々人のインセンティブが自然に機能するような仕掛けでなければ、コアチームとメディアは力を発揮できないでしょう。この点は、より深く考えていく必要があります。

また、社会構造と言う概念は、三権分立のような例が参考になります。その本質的な構造がシンプルで分かりやすく、地域や文化によって本質を維持したままある程度柔軟にカスタマイズできることも重要になってきます。このためコアチームのあり方は絶対的なフォーマットは無く、その構成や規模、活動の手法も、自由で柔軟な物であるべきです。

ただし、ここで重要なことは、コアチーム同士がお互いの主張を評価する手法です。この部分については、標準的な手続きやプロトコルを開発して、それを改善していく必要があります。ここに曇りや偏見が混入してしまうと、それがこの戦略の致命的な欠陥となってしまうためです。

多くの課題や考えなければならない事項は多くありますし、ここで提案した戦略だけが問題の解決策ではないでしょう。より洗練された戦略や、同時並行で組み合わせて実施すべきことも多くあると思います。

ただ、人工知能に限らず、その他の大きなリスクが懸念される技術開発や地球環境問題を含め、未現実の無力の問題はこれからの社会が取り組むべき優先度の高い大きな問題だと思います。そして、この問題を乗り越えるためには、戦略や具体策は様々だとしても、透明な知性の増幅させる方法を社会に組み込むことが必要になるはずです。