持続可能な社会と技術開発

持続可能な社会が近年の重要な国際的なキーワードになっています。これは主に環境破壊や資源枯渇に焦点が当てられており、現状のままの社会的な開発や産業の在り方を継続することはできないという認識が知られています。

私は、社会の持続可能性については、より広範に考える必要があると考えています。

特に技術開発の分野におけるバイオテクノロジや人工知能の社会への影響は深刻です。

これらの進化の速いテクノロジがもたらす影響は、良いものであれ悪いものであれ、私たちが生きているうちに社会に大きな影響を与えることは確実です。このため、これらの技術のハザードや副作用の問題は、環境問題や資源枯渇よりも早く、私たちの社会に重大なリスクをもたらす懸念があります。

これは環境問題のように後世に対する責任という物語を越えて、私たちが生きているうちに、私たちの社会が持続できなくなる可能性すら含んでいます。このため、単に利他的で道徳的な観点ではなく、自分自身や自分が守りたい人たちという利己的な観点からも、社会の持続可能性について真剣に考えなければならない時代に、今、私たちは生きています。

この記事では、主に技術開発を焦点に、持続可能な発展について分析します。そして、軍事や医療などにおける専門家の役割と意志決定のあり方を参照しつつ、この時代における持続可能な社会の観点から技術開発のあり方を考えていきます。

■持続可能な発展

持続可能な発展には、発展の速度と、発展段階の２つの概念があります。

[1] 持続可能な発展速度:
・ある一定の速度以下で発展する場合、持続可能です。
・しかし、この速度を超えると、持続可能性が損なわれます。

[2] 持続可能な発展段階:
・特定の発展段階までなら持続可能です。
・しかし、その段階を超えると、持続可能性が損なわれます。

■分野別の対応の必要性

発展には様々な分野があります。それぞれの分野の発展段階について持続可能な限界について検討し、それに応じて以下のような対応を考える必要があります。場合によって、発展を停止したり、社会的合意を取ることが必要です。

[a] 持続可能な発展段階の限界が無い場合:
・発展速度の限界を超えないようにしながら、持続的に発展することができます。

[b] 持続可能な発展段階の限界点が明確な場合:
・その限界点の手前で発展を停止する必要があります。

[c] 発展段階の限界があるが、限界点が不明確な場合:
・社会的合意のもとに発展を停止する段階を決定する必要があります。

[d] 発展段階の限界の有無が明確でない場合:
・社会的合意のもとで発展を停止するか、続けるかを決定する必要があります。

■現在の社会の状況

こうしたことがある程度できている分野と、できていない分野があります。特にAIやバイオテクノロジのように進化が速い技術開発では顕著です。もちろん、上記のような試みや取り組みはありますが、速度が追いつかない恐れがあります。

また、研究開発に多くの費用や労力が求められず、特殊な機器も必要ない場合、発展を停止するという事自体が現在の私たちの社会では実現できません。上記の概念に同意せず、技術進歩は必ず進めるべきだと考える人もいます。

さらに、そもそも発展の限界が見極められていないまま、技術開発は進められています。つまり、社会的な合意をとってから発展させるという社会プロセスになっていません。

このように、現在の社会は、持続可能な発展に対して極めて能力が低い社会です。このままでは持続不可能な段階まで発展してしまい、社会は大きなリスクにさらされることになります。

重要な事は、個々の技術や産業のリスク分析やバランスの見極めだけではありません。社会の仕組みそのものを持続可能な仕組みにする必要があります。

メリットや外部リスクを強調して、社会的合意なく自由に技術開発ができることを許容し、それが当然であると考えている人が多い社会は、残念ながら持続可能ではありません。

■専門家のバイアス

メリットや外部リスクの観点から技術開発は継続しなければならないという論理は、一見筋が通っています。しかし、持続可能な発展という観点からリスクが高まるのであれば、そのバランスを取ることまで考えなければ、筋が通らなくなります。

技術開発を重視している人たちは、外部リスクへの対応については技術開発で人為的に努力すべきであると考える一方で、技術開発によりリスクが高まることは仕方がないと考えてしまうことがあります。

本来は、社会全体のリスクの観点からバランスを取るという考えがなければならないはずです。

この事は、軍事の専門家が決定権を持つと、他国から自国の利益が脅かされるリスクを減らすことを国民のために真剣に考えた結果として、戦争というリスクを取るという選択をする可能性が高くなるという話に似た構図があります。

また、善良で熱心な外科医であっても、病気やけがを治すために、手術というリスクを取るという選択を勧める傾向にあるという一般論にも同じ構図があります。

技術の専門家、軍事の専門家、医療の専門家はそれぞれ、自分たちの専門分野の能力を発揮して軽減できるリスクを過大評価し、能力の発揮による副作用として生じるリスクは過小評価する傾向があるという事です。

ここには、リスクに対して専門家のバイアスがあります。

■非専門家による意思決定

リスクに対する専門家によるバイアスが大きな問題となるケースでは、非専門家による意思決定が求められます。

軍事の分野では、文民統制（シビリアンコントロール）という重要な原則があります。軍隊が独自に軍事における重要な意思決定を行わないように、軍人でない人（文民）が、軍隊の意思決定を行うという原則です。

多くの国で、その国の大統領や首相が軍事の最高責任者になっているのはこのためです。

医療の分野ではインフォームドコンセントという考え方が浸透してきています。これは、病気への対処の意思決定は専門家である医者でなく、患者が行うという原則です。

もちろん、患者は非専門家ですから、治療の選択肢とその効果やリスクについては、専門家である医者が責任を持って患者に伝える必要があります。

■自己決定権

幸福や最善の選択肢というものは、人それぞれ異なる主観的なものです。このため、どんなに賢い人でも、たとえ人間より遥かに賢い人工知能が出来たとしても、人それぞれの幸福や最善の選択肢は他者にはわかりません。

このため、重大な意思決定は本人が行うという自己決定権が尊重されるべきです。

シビリアンコントロールとも密接に関係しますが、重大な意思決定は社会の総意であるべきです。このため、全員で話し合うか、社会的に認められた代表者が意思決定を行うべきです。

軍事だけでなく、法律や財政等も、官僚組織の中で出世したエリート官僚が豊富な知識を持っていますが、彼らは社会的に認められた代表者ではありません。

このため、多くの国では官僚組織の上には、選挙で選ばれた代表者が組織する政府が置かれ、各大臣が官僚組織のトップを務めています。

医療においては、インフォームドコンセントの原則は、専門家のバイアスの問題への対処に加えて、患者本人の意思決定権を尊重するためのものでもあります。

以前は患者のために最善だと考えられる治療法を医者が決める場合もありました。しかしどういったリスクを取り、どういったリスクを避けたいかは、患者ごとの状況や価値観によって異なります。このため、意思決定は本質的に患者本人にしか行うことはできません。

■さいごに

技術開発に関しては、文民統制やインフォームドコンセントのような、非専門家による意思決定や自己決定権の原則はありません。

このため、技術開発による問題解決が優先され、副作用のリスクが軽視されるという専門家のバイアスの問題を抱えています。

加えて、私たちがどういった社会を望んでいるかという事とは無関係に技術開発は進み、それが社会を変えていきます。その副作用によるリスクを私たち全員が引き受けるという自己決定権の喪失という問題もあります。

これらの原則から見れば、現在のように技術開発を企業や研究者が自由に行なっている社会は、軍隊に所属する軍人が思い思いに戦争を始めたり、医者が患者の同意を取らずに手術を始めたりしている社会と似ています。

技術開発の影響が小さければ、こうした状況も許容できます。しかし技術開発が社会に及ぼす副作用によるリスクは、時代と共に増大しています。

持続可能な発展、非専門家による意思決定、自己決定権という観点から、私たちは技術開発に対する社会のあり方を考え直す時期に来ています。

そのためには、技術の専門家による技術開発の意思決定を強く規制し、非専門家かつ社会の代表者が意思決定を行なう仕組みにしていく必要があります。

加えて、各社会における非専門家かつ社会の代表者同士が協議をして、国際的なルールを決めていく必要があります。

さらに社会的に認められて規制に厳格に従わないような組織や個人が、技術開発を行うことに対しては、より厳格な取り締まりが必要になります。

市民や民間組織が武器を所持したり他者を攻撃したりすることは、軍人とは全く異なるレベルでの取り締まりが必要ですし、医師免許をもたない個人による手術も同様です。

現在の社会の姿からは想像が難しく非現実で受け入れられないもののように思えるかもしれません。しかし、この議論を通して考えていくと、現在のような自由な技術開発をしながら持続可能な社会の実現を目指すことの方が、非現実的であり、受け入れがたいものであると私には思えます。

技術の進歩が進むにつれて、こうした思いを抱く人は増えていくでしょう。その時に備えて、こうした社会の実現のための議論は、進めておかなければなりません。