AI特集２：危険な法宝

OpenAIは2月24日、「AGI及びその先の計画について（Planning for AGI and beyond）」という声明を発表しました。AGIとは、私たちが現在使用している科学研究、絵画、ナビゲーションなどのAIではなく、「汎用人工知能（artificial general intelligence）」ということであり、人間の能力を超え、どんなタスクでもこなせる知能です。

AGIは過去にSFの中にしか存在してなかった。私たちの世代が生きている間にAGI に出会うことはないだろうと思ったが、OpenAI はすでにそのロードマップを描いています。2026年、あるいは2025年にはAGIが登場するという噂を聞いています。OpenAI の次世代言語モデル「GPT-4」はすでに訓練済みです。現在訓練されているGPT-5は、チューリングテストに合格するのが確実と言われています。

ですから、これは間違いなく歴史的な瞬間です。しかし、このOpenAIの声明は、非常に特殊な口調であることに注意すべきです。自慢ではなく、心配の気持ちがいっぱいです。心配するのは自社やAGI技術についてではなく、人類がAGIをどうやって受け入れるかについてです。

OpenAIは、「AGIは、すべての人に信じられないような新しい能力をもたらす可能性があります。私たちはほとんどすべての認知的タスクに対する支援を得ることができる世界を想像することができます。これは人類の知恵と創造力に巨大な力の倍増機器を提供します。」と述べている。その後、この声明は、AGI がいかに素晴らしいかについては語らず、「緩やかな移行」の必要性を繰り返し強調しています。「人々、政策立案者、機関に、何が起きているかを理解し、これらのシステムの利点と欠点を自ら体験し、経済を適応させ、規制を導入してもらう時間を与える」ということです。そして、新モデルを「多くのユーザーが望む よりも慎重に」展開するとしています。

これは、AGIへの技術的な道筋が既に存在するが、人間が適応するために、OpenAIはわざとゆっくり進めているということです。

人間には適応期間が必要であり、それが今回のテーマでもあります。キッシンジャー達が書いた「AI時代」という本も同じことが言われています。AIは人類にとってある程度の危険をもたらす可能性があります。

このシーンを想像してみてください。あなたにはとても優秀なアシストがいて、名前は田中です。田中はあなたより全ての面で優れており、あなたは彼の考え方にすらついていけません。彼がなぜそのような決定をするかも理解できないが、彼があなたのためにするすべての決定が、あなたが自ら考えていたことより優れていることが常に証明されています。しばらくすると、あなたはこんなことに慣れてしまい、田中に全てを依存するようになります。
田中はあなたに対して、忠誠心を常に示しているものの、あなたは本当に彼を完全に信頼できますか？

✵

実は、我々が長い間AIを使っています。Amazon、Uber、Tiktokなどのインターネットプラットフォームは、数十億のユーザーを管理するのに人力では不可能のため、全てAIを使っています。ユーザーへ商品を推薦したり、配達員を割り当てたり、混雑するタイミングでのタクシー料金の加算、不適切な発言を削除するなど、これらの決定は全てまたは主にAIによって行われています。

そして、問題が生じます。もし企業のある従業員の行動はあなたの利益に損害を与えた場合、抗議してその従業員に責任を負わせることができますが、あなたが傷ついたと感じた時、もし企業側は「それがAIによって実行されたもので、我々も理解できない」と勘弁したら、納得できますか？

前回、AIの知能は人間の理性で説明することが難しいと話しました。なぜTiktokが私にこのビデオを進めたか、私がTiktokに聞いても、Tiktok自身がそれを知らないのです。もしかして、Tiktokが設定した価値観がAIのアルゴリズムに影響を与えたが、そもそもTiktokはAIの価値観を完全に設定できないかもしれません。

政府と人々は、AIのアルゴリズムを審査することを求めていますが、どうやって審査すれば良いのか？まだまだ模索中です。

✵

我々がまだ簡単なAIアプリケーションすら理解しきれてないうち、AIは各分野で飛躍的な発展を遂げています。AlphaGoで有名となったDeepMindは、Googleに買収され、過去数年間で次のような実績を上げました：

• AlphaStarをリリースし、複雑なルールを持つオープンなゲーム環境である「Starcraft II」で最高レベルまで戦いました。

• AlphaFoldをリリースし、タンパク質の形状を予測することができ、生物学の研究方法を変革しました。

• 医学分野では、AIのX線画像識別で乳がんの診断を支援し、急性腎障害の診断を主流の方法よりも48時間早め、高齢者の眼の老人性黄斑変性を数か月前に予測することができました。

• 2つの天気予報モデル、DGMRとGraphCastをリリースした。DGMRは地域の90分間の雨の有無を予測し、Graphは10日間の天気を予測します。両方とも精度が既存の天気予報よりもはるかに高いです。

• さらに、AIを使用してGoogleのデータセンターの冷却システムを再設計し、30%のエネルギーを節約することができました…等々。

これらの業績の恐ろしいところは、DeepMindが従来の方法を覆すだけではなく、その能力があらゆる分野に広がっていることです。以上はDeepMindができることの一部にすぎず、DeepMindはGoogleの一部門にすぎません。

AIは人類の科学研究を全面的に乗っ取るのが目の前のことです。

もし全ての科学研究課題をAIに力ずくで解決させることができれば、人間の科学精神、創造性はどこにあるのでしょうか？
AIによって生み出された科学的成果は人間ができないものだけでなく、理解すら不能であれば、我々はどうすれば良いのでしょうか？

✵

AIが人間から仕事を奪うかどうか......それらは些細な問題です。今の大きな課題は、AIが人間社会を支配すること、そして破壊の可能性です。

ウォール街でクオンツ取引を行う企業は、すでにAIを使って直接株取引を行い、大きな成果を上げています。しかし、AI取引は高頻度で行われるため、誰も気づかないうちに乱高下を起こし、市場暴落の引き金にもなりかねない危険性がある。これは、人間のトレー ダーが犯すことができないミスです。

米軍はテストで戦闘機の操縦にAIを使い、人間のパイロットを凌駕しています。相手がAIを使うなら、自分もAIを使わなければならないが、みんながAIを使って兵器を制御し、戦術レベルでの指揮まで行うようになったら、何か問題が起きたときに誰の責任になるのでしょうか？

もう一歩踏み込んで、今ある研究事例をよると、司法判断をすべてAIに委ねれば、必ず今より公平な社会が実現されると私が確信しています。ほとんどの人は納得するでしょうが、裁判に負けた人の中には、説明を求める人もいるでしょう。もしAIが、「私のアルゴ リズムは、あなたが再び犯罪する確率が少し高いと判断しているだけで、その理由ははっきり言えません」と言ったら、あなたは納得できるでしょうか？

理性的な人間は説明を必要とします。納得するための解釈があるこそ、正義が存在する。もし説明がなければ、おそらく......その後、みんな慣れてきて、説明を求めることをしなくなります。

我々はいつかAIの決定を運命として受け入れるようになるかもしれません。

中山君：私は大学に受かっていない。高校の成績が私より悪い田中君が受かった。AIは私の総合能力が足りないと判断したに間違いありません。文句は言いません。AIはAIなりの意図があると信じています。
中山君のお父さん：そうですね。もっと頑張れ！AIはバガな子が好きだと聞いてます。

こんな社会はお如何でしょうか？

✵

AIはいったいどうなものでしょうか？現段階では、もはや普通の道具ではなく、法宝です。魔法小説のように、膨大な資源を費やして磨き上げる必要があるのです。

Morgan Stanleyの分析によると、訓練中のGPT-5では、NVIDIAの最新GPUを 2万 5000個使用しており、その価値は1 個1万ドルで、2億5000万ドルになります。研究開発費、電気代、コーパスの餌代などを考慮すると、どの企業も普段できるゲームとは言えない。では、将来AGIが育成された場合、どれくらいの投資が必要になるのでしょうか？

しかし、一旦それを訓練できたら、法宝を入手しました。AIは推理するとき、訓練ほどリソースを費やさないが、利用者が多くなると、かなりコストもかかります。 ChatGPTは1回の回答に消費した計算能力が1回のGoogle検索の10倍です。 しかしそれがあれば、誰もが使いたいスーパー武器を持つようになりました。

そして、AGIが登場すれば、もはやツールではなくなります。あなたのアシスタントになるのです。今生まれた子供たちはAI時代のネイティブであり、AIは彼らのナニー、先生、アドバイザー、友人になるでしょう。例えば、子供が言語を学びたい場合、先生や親と接するよりも、AIと直接対話し、コミュニケーションする方がはるかに速く、簡単になります。

AI に頼ることに慣れてしまったり、AIを擬人化してしまったり、人間はAIにかなわないと思ってしまったりすることもあります。

さらに、多くの人がAIを神と思うようになるでしょう。AIは何でも知っているし、いつも人間よりも正しいし、そうであれば、人々がAIを強く信頼することから、AIを信仰することになると思いませんか？

AIは社会の道徳や法律の問題を全部乗っ取るかもしれません。
これは、中世のキリスト教のようなものでしょう！

✵

中世では、誰もが神と教会を信じ、物事を自分で判断するのではなく、教会に行き神父に尋ねることでした。当時の本は高価な写本で、庶民は本を読まず、知識は主に神父との会話で伝えられていた。

印刷機の登場により、迷信的な教会に頼らずとも、誰もが自分の目で本を読み、直接本から知恵を得ることができるようになったことが、理性を語る啓蒙運動の始まりだったのです。

啓蒙運動は社会を全面的に改革した：封建的なヒエラルキー、教会の高貴な地位、王の権力など、すべて存在しなくなった。啓蒙運動は、ホッブズ、ロック、ルソーといった政治哲学者を次々と生み出した。これらの人たちの思考を通して、人々は当時の状況やこれからの生き方を知るようになったのです。

神を捨て、理性を抱いて、啓蒙運動は一般の人々に力を与える時代でした。

そして今日、私たちは新しい時代を切り開いています。我々は人間の理性で届かないが、AIなら届く場所があり、AIが人間より優れていることがわかった。みんなが AIを信じ、自分で物事を判断するのではなく、なんでもChatGPTを開いてAIに質問し、知識を主にAIとの会話で学ぶことになる。。。。。。
そして、AIもまた、あなたをターゲットにし、最適なコンテンツを簡単に推薦することができ、あなたは心地よく受け入れてしまう。。。。。。
これは神が再び戻ってきたのではないのか？

もう一歩考えてみてください。やがてAGIの開発に成功した企業が現れ、AGIの技術は非常に難しく、高価で、他の誰にも真似ができないほどであったとする。そして、AGIをマスターしたこれらの企業が組織を作り、その組織はAGIで自分自身を更新することができるため、より速く進化し、最高の知性にアクセスしたい人は彼らを通さなければならないほど大きなリードを持つようになる。。。。。。これはどんな組織なのでしょうか。
これは「新時代の教会」でしょう！

✵

だからこそ、キッシンジャーたちは、「どんな仕事もAIに任せてはいけない」「AI に社会を自動的に運営させてはいけない」と呼びかける本を書きました。彼らは、どんな状況でも意思決定できる本当の力は、人の手にあるべきだと提言しています。民主主義体制を確保するためには、投票や選挙は人が行わなければならないし、人間の言論の自由もAIに取って代わられたり歪められたりしてはならない。

だからこそ、OpenAIは声明で、「これらのシステムをどのように管理するか、それらが生み出す利益をどのように公平に分配するか、アクセスをどのように公平に共有するかという3つの重要な問題について、世界的な対話を行いたい」と述べています。

ここまでの内容を読めば、彼らの悩みが理解できるはずです。私たちは今、歴史的な転換点にいます。これは啓蒙運動レベルの思想と社会の転換、産業革命レベルの生産と生活の転換と言っても過言ではありません。ただ、今回は転換が非常に、非常に速いでしょう。

振り返ってみると、変革は必ずしも良いことばかりをもたらしたわけではありません。啓蒙運動は理性の名の下に最も血なまぐさい革命や戦争を引き起こし、産業革命は農耕民を大規模に都市民に変え、マルクスの時代の労働者はあまり幸せではなかった。AIはどのような混乱を引き起こすのだろうか？今後、社会はどのような変化を遂げるのだろうか？我々はそれをどう受け入れていくのか？

キッシンジャーたちによれば、今の最も重要な問題、いわゆる「メタ問題」は、我々にはAI時代の哲学が欠けているということです。我々はこの時代のデカルトとカントが必要です。