ヘンリー・キッシンジャー , エリック・シュミット , ダニエル・ハッテンロッカー 『AIと人類』

「主要なネットワーク・プラットフォームはサービスを提供し、顧客の期待や政府の要求に対応するために、AIへの依存を強めている。ネットワー ク・プラットフォームが機能するうえでのAIの重要性が高まると同時に、AIは徐々 に、そして目立たないように、現実をふるい分けし、形づくっている。それは実質的に国 家およびグローバルなステージでのプレーヤーとなることに等しい。

こうしたプラットフォームのユーザーは、地球規模で人間以外の知能が活動するという新たな、そして現段階ではよく理解されていない現象の恩恵を享受しつつ、その拡大を助長している」

「このように常にAIが傍らにいるサービスは、今後ますます普及していくだろう。医 療、物流、小売、金融、通信、メディア、交通、エンターテインメントといった産業の多 くがネットワーク・プラットフォームの後押しを受けて同じような進歩を遂げていくなかグローバルネットワークプラットフォームで、私たちの経験する日々の現実は変わっていく。

AIを使ったネットワーク・プラットフォームの助けを得ながらタスクをこなすとき、 私たちが享受する情報の収集と抽出という恩恵は、過去の世代が決して経験することのな かったものだ。こうしたプラットフォームの規模、影響力、新しいパターンを発見する能 力が、個々のユーザーにかつて経験したことのないような利便性と能力をもたらす。それ と同時にユーザーはこれまで存在しなかったような人間と機械の対話に参加する。

AIを使ったネットワーク・プラットフォームは人間のユーザーが明確に理解していな いような方法で(というより、明確に定義することも記述することもできないような方法 で、人間の活動を形づくる能力を持つ。

ここから本質的な問いが浮かび上がる。そのようなAIの目的関数は何か。それは誰が 設計したのか。どのような規制上のパラメーターのなかで機能しているのか。

このような問いへの答えが、未来の人々の生活や社会のあり方を決めていくことになる。 AIを使ったプロセスを運用し、制限をかけるのは誰か。それは社会の規範や制度にどのような影響を及ぼすのか。 AIが知覚したものを共有できる者がいるとすれば、それ は誰か。

誰ひとりそうしたデータを完全に理解することはできず、個別データを見ること もできず、プロセスに含まれるすべてのステップを確認することができないとしたら、つ まり今後も人間の役割がAIの設計、監視、全体的パラメーターの設定に限定されるとし たら、私たちはそれに安堵すべきか、不安を抱くべきか、それともその両方か。

AIを活用したネットワーク・プラットフォームは、設計者が明確な意図を持って発明 したわけではない。個々の企業、技術者、その顧客が問題を解決しようとするなかで、た またまできあがった。

ネットワーク・プラットフォームが成長・進化するなかで、当初の目的をはるかに超え て、社会におけるさまざまな活動や産業に影響を及ぼすようになった。

個人はAIを使ったネットワーク・プラットフォームに友人や政府に見せるの ちゅうちょ は躊躇するような情報を託すようになった。

そのような個人データを手に入れたことで、ネットワーク・プラットフォームや運営会、そこで使われるAIは新たな社会的・政治的影響力を手に入れた。とりわけパンデミ ックによってソーシャルディスタンスやリモートワークが求められる時代に、AIを使っ たネットワーク・プラットフォームは意見の表明、商取引、食品宅配、交通のファシリテ ーターとして、社会にとって欠かせない資源となり、また社会的つながりを維持する手段 となっている。こうした変化の規模と速度に、ネットワーク・プラットフォームが国内お よび国際社会で果たすべき役割についての理解や合意が追いついていない。

昨今、政治にかかわる情報や偽情報を拡散・抑制するうえでソーシャルメディアが果た した役割からも明らかなように、一部のネットワーク・プラットフォームは国家の統治に 影響を与えかねないほど重大な機能を担うようになった。このような影響力は必ずしもき ちんとした目的や計画に基づくものではなく、ありていに言えば偶然生まれたものだ。

自らの基準となる事業目的やユーザーニーズに沿って動いているネッ トワーク・プラットフォームが、ガバナンスや国家戦略の領域に踏み込むこともあるかも しれない。反対に、プラットフォームを国家やグローバルな目標に取り込もうとする伝統 的政府は、その動機や戦術を理解するのに苦しむかもしれない。

もう一つ厄介なのは、AIは独自のプロセスに基づいて動いていて、それは人間の知的プロセスとは異なるうえにスピードも速いという事実だ。AIは設定された目的関数がど んなものであれ、それを実現する方法を生み出そうとする。そこから生まれる結果や回答 は人間の生み出すものとは異なり、国や企業の文化からも独立している。世界のグローバ ル化と、ネットワーク・プラットフォーム上で世界的に情報を監視し、ブロックし、調整 生成し、流通させるAIの能力によって、こうした問題が各国の「情報空間」に移植 されていく。

ネットワーク・プラットフォームを支えるAIは一段と高度化しており、国内はもとよ 国際的な社会や商取引の仕組みに影響を与えている。ソーシャルメディア・プラットフ ォーム(とそこで使われるAI)は一般的にコンテンツには一切関知しないというスタン スだが、コミュニティのルールを設定するだけでなく情報のフィルタリングや表示方法を 通じて、情報の作成、収集、認知のあり方に影響を与えている。」

「こうしてグローバルなコミュニティやコミュニケーションを実現するという前提の下に 築かれた産業は、次第にリージョナリゼーション(地域化)を推進することになる。各ブロックのユーザーは異なる方向に進化していくAIの影響を受け、異なる現実を生きるようになる。ときがたつうちに地域圏ごとに異なる技術標準ができる。 それぞれの地域圏の AIを使ったネットワークとそれに支えられた活動やコンテンツは並行して、ただし交わ ることのない進化を遂げていく。地域圏のあいだのコミュニケーションや交流は、次第に 共通点のない困難なものになっていく。

AIを使ったネットワーク・プラットフォームに影響を与え、自らの都合の良い方向へ 導こうとする個人、企業、規制当局、政府のせめぎ合いは、戦略的対立、貿易交渉、ある いは道徳的論争にかたちを変えながら、ますます複雑になっていくだろう。

開発者や運営 会社はネットワーク・プラットフォームの目的や限界をより深く理解するようになるかも しれないが、政府の懸念やもっと本質的な哲学的問題を事前に察知することはやはりでき ないかもしれない。最も重要な懸念や対策について、ここに挙げたステークホルダーの垣 根を越えた対話が切実に求められている。」

『AIと人類』

核時代からAI時代に変化したことで、いよいよ「攻撃による防御」という安全イデオロギーから、人類全体が解放される必要がある。

「主要な技術先進国はどこも、自らが戦略的大変化のとば口にいることを理解する必要がある。その重要性は核兵器の登場に匹敵し、その影響はもっと多様で、拡散していて、予測不能だ。

AIのフロンティアを開拓しつつあるすべての社会は、国家レベルの会議体を立ち上 げ、AIの防衛と安全保障にかかわる側面を検討し、AIの開発と活用に影響を及ぼすさ まざまなセクターを橋渡しする必要がある。この会議体に期待される機能は二つだ。一つ は世界と伍していける競争力を維持すること、もう一つは望みもしないエスカレーション や危機を防ぐ、あるいは少なくとも制限する方法を調査することだ。それを土台として同盟国や敵対国と何らかの交渉を実施することが重要だ。

国際システムのパラドクスとは、すべての国家は自らの安全を最大化するために行動する意欲を持ち、またそうせざるを得ない一方で、絶え間ない危機を避けるためには全体的平和の維持に対してある程度の責任を引き受けなければならないということだ。

このプロ セスに欠かせないのが制限にかかわる共通認識だ。 軍事戦略や安全保障の担い手は最悪の シナリオを想定し、それに対応するための能力獲得を最優先するだろう(それ自体は間違 いではない)。一方、政治家は(軍事戦略や安全保障の担い手と同一人物かもしれない が)、そうした能力をどう使うか、その結果世界はどうなるかを考える義務がある。

AI時代には、長年常識とされてきた戦略ロジックも見直す必要がある。大惨事が起こる前に、やみくもに自動化を推し進めようとする欲求を克服する、あるいは少なくとも抑 制する必要がある。人間の意思決定者を上回る速度で動作するAIが、戦略的影響の大きい、取り返しのつかない行動に出ることを防がなければならない。 」

AI時代になって、「話し合い」が最重要課題であることを再確認。人類を守るための話し合い。

「AIのスピードからして、ひとたび軍事対立に使われたら外交努力が追いつかないペー スでさまざまな事態を引き起こすのは間違いない。たとえ戦略的概念を表す共通の語彙 や、お互いにとって越えてはならない一線を確認する程度の成果しか得られなくても、主要国はサイバー兵器やAI兵器について議論の席に着かなければならない。お互いの破壊 的能力に制限をかけるという意思を、実際に悲劇が起こる前に持つ必要がある。

人類はまったく新しい、進化しつづけるインテリジェントな兵器を生み出す競争に乗り 出そうとしている。そこに限界を定めることができなければ、許されざる過ちとして歴史 に刻まれるだろう。 人工知能の時代における国家の優位性確立に向けた終わりなき探求は、人類を守るという倫理に根ざしたものでなければならない」

AI時代を迎え、「わたしたちとは一体何者か」、その根源的問いが否応なしに私たちに迫ってくる。

本質的な時代、面白い時代になっていく。

「人間は、もはや現実を認識できる唯一の存在ではないという新たな自己認識を受け入れ るだけではなく、これまで探求していたはずの現実そのものに対する認識を改めなければ ならない。

AIの普及にともない、人間が自らを取り巻く環境を理解し、体系化する能力はかつて ないほど高まると考える人もいるだろう。反対に、人間の能力は自分たちが思っていたほ ど高くはなかったと結論づける人もいるかもしれない。このような自己認識の見直し、さらには自らを取り巻く現実の再定義によって、私たちの世界の土台となる大前提が変わる。それにともなって社会、経済、政治のあり方も変わる だろう。 中世の世界は「イマゴ・ディ(神の像)」をよりどころに、封建的農耕、王権崇拝、そびえ立つ大聖堂の尖塔への憧憬によって支えられていた。

理性の時代は「われ思うにわれあり」を旗印に新たな地平を開拓し、それにともない個人と社会の運命観に主体性 の意識が芽生えた。AIの時代には、まだ土台となる原則、道徳観、目標や限界もない。

AI革命は大方の人間が思うよりずっと早く起こる。それが引き起こす大きな変化を 明し、解釈し、体系化するための新たな概念を生み出さなければ、変化とそれが引き起こ す影響を丸腰で迎え撃つことになる

私たちは道徳的に、哲学的に、心理的に、実践的に、すなわちあらゆる面から新たな時代のとば口にいる。理性、信仰、伝統、技術という最も本質的なリソースを動員し、人間 と現実との関係を見直し、それが今後も人間らしいものでありつづけるようにしなければ ならない」