AIが人類を超越する日：私たちは準備ができているのか？
この記事では、AIが人類社会を支配した場合に何が起こるかについて話し合います。
AGI時代を受け入れるか
2023年2月24日、OpenAIは「AGIおよびその先に向けた計画（Planning for AGI and beyond）」という声明を発表しました。AGIは、私たちが現在使用している科学研究、絵画作成、ナビゲーションのAIではなく、「一般人工知能（artificial general intelligence）」であり、少なくとも人間のレベルに達し、どんなタスクでもこなすことができる知能です。
AGIは以前は科学小説の中にしか存在しませんでした。私は、私たちの世代が生きている間にAGIを見ることはないと思っていました。しかし、OpenAIはすでにロードマップを計画しています。私はいくつかの噂を聞きましたが、AGIが2026年、あるいは2025年に到来する可能性があります。現在トレーニングされているのはGPT-5で、それは確実にチューリングテストを通過すると考えられています。
チューリング・テストは、アラン・チューリングが提案した、ある機械が「人間的」かどうかを判定するためのテストである。これが「知的であるかかどうか」とか「人工知能であるかどうか」とかのテストであるかどうかは、「知的」あるいは「知能」の定義、あるいは、人間が知的であるか、人間の能力は知能であるか、といった定義に依存する。
これは間違いなく歴史的な瞬間です。しかし、注目してほしいのは、OpenAIのこの声明は非常に特別な文書です。これまでにどの技術企業も自社の技術についてこのように述べたことがないでしょう：文書全体の重点は自慢することではなく、ある種の懸念意識です－それは自社やAGI技術に対する懸念ではなく、人類がAGIをどのように受け入れるかに対する懸念です。
OpenAIは「AGIはすべての人に信じられないほどの新しい能力をもたらす可能性があります；私たちは、すべての人がほぼあらゆる認知タスクのサポートを得られる世界を想像することができます、これは人類の知性と創造性に大きな力の増幅器を提供します」と述べています。そして、文書はAGIの素晴らしさについて続けるのではなく、むしろ「段階的に移行する」ことを繰り返し強調しています。「人々、政策立案者、および機関が起こっていることを理解する時間を持ち、これらのシステムの利点と欠点を自ら体験し、経済を調整し、規制を実施するようにする。」そして、新しいモデルを展開する際には「多くのユーザーが望むよりも慎重に」行うと述べています。
これはつまり、AGIへの技術はすでに存在していますが、人類が適応するプロセスを持つために、OpenAIは意図的に抑えて、できるだけゆっくりと進めているということです。
人類には適応のプロセスが必要であり、これも今回のテーマです。キッシンジャーらが『AI時代』という本で表現したのも同じ意味です、AIは人類にとってある程度の危険を持っています。
想像してみてください、あなたには非常に優れたアシスタントがいます。彼はあなたよりもあらゆる面で優れており、あなたは彼の思考がなぜそのような決定をするのか理解できません。しかし、実際には彼があなたのためにしたすべての決定が、あなた自身が元々考えていたものよりも優れていることが証明されています。時間が経つにつれて、あなたは慣れ、あなたは彼に全てを依存するようになります。
彼のすべての行動は、彼があなたに忠実であることを証明しています......しかし、あなたは本当に彼を完全に信頼していますか？
あちこちで使われるAI
実際、私たちはすでに長い間AIを使用しています。アマゾン、ウーバー、ティックトックなどのインターネットプラットフォームは数億、あるいは数十億のユーザーを持っており、これらの多くのユーザーを人力で管理することは不可能です。それらはすべてAIを使用しています。ユーザーに商品を推薦したり、配達員に注文を割り当てたり、混雑時にタクシーの料金を加算したり、不適切な発言を削除するなど、これらの決定はすでに全てまたは主にAIによって行われています。
そして問題が生じています。ある会社のある従業員の操作があなたの利益を損なった場合、あなたは抗議し、彼に責任を取るよう要求することができます；しかし、あなたが被害を受けたと感じ、会社がそれがAIによるものだと言った場合、私たち自身も理解していないと言われたら、あなたはそれを受け入れますか？
別の記事で、現在のAIの知恵は人間の理性で説明するのが難しいと言いました。なぜ抖音があなたにこのビデオを推薦したのか、あなたがティックトックに質問すると、ティックトック自体も知りません。もしかすると、ティックトックが設定した価値観がAIのアルゴリズムに影響を与えたのかもしれませんし、もしかするとティックトックがAIの価値観を完全に設定することは不可能かもしれません。
政府と市民はAIアルゴリズムを審査することを要求していますが、どのように審査するのでしょうか？これらの問題はまだ探求中です。
進歩し続けるAI
私たちが簡単なアプリケーションについてもまだ理解していない間に、AIはさまざまな新しい分野で急速に進歩しています。AlphaGoで有名になったDeepMindはGoogleに買収され、過去数年で以下の成果を達成しましたー
AlphaStarを発表し、複雑なルールとオープンなゲーム環境を持つ『スタークラフトII』で最高レベルに達しました；
AlphaFoldを発表し、タンパク質の形状を予測することができ、分野内の生物学の研究方法を一新しました；
医療分野では、X線画像をAIで識別して乳がんの診断を助け、急性腎障害の診断を従来の方法よりも48時間早め、高齢者の眼の加齢黄斑変性を数ヶ月前に予測しました；
2つの天気予報モデルを発表し、一つはDGMRで、90分以内にある地域で雨が降るかどうかを予測し、もう一つはGraphCastで、10日以内の天気を予測し、その精度は既存の天気予報よりも著しく高いです；
さらに、AIを使用してGoogleのデータセンターの冷却システムを再設計し、30％のエネルギーを節約しました……
などです。これらの成果の最も恐ろしいところは、DeepMindが行動するとすぐに伝統的な方法を覆すことではなく、それらが特定の分野に集中しているのではなく、あらゆる方向で大活躍していることです：DeepMindが覆せない分野は一体何でしょうか？
これらはDeepMindができることのほんの一部に過ぎず、DeepMindはGoogleの一部門に過ぎません。
AIが科学研究を全面的に支配するのは目の前です。
もしすべての科学研究プロジェクトをAIに任せることができれば、人間のいわゆる科学精神や創造性はどのように表現されるのでしょうか？
もしAIが出した科学研究の結果が人間には出せないだけでなく、理解すらできない場合、私たちはどうすればよいのでしょうか？
破壊力
AIに仕事を奪われることはもはや些細な問題ではありません。現在の大きな問題は、AIが人類社会に対する支配力－そして潜在的な破壊力です。
ウォールストリートで量的取引を行っている会社はすでにAIを直接株式取引に使用しており、効果は非常に良いです。しかし、AI取引は高頻度で行われ、誰も気付かないうちに乱流を形成し、市場の崩壊を引き起こす可能性があります。これは人間のトレーダーが犯すことのない過ちです。
米軍はテストでAIを使用して戦闘機を操作し、そのパフォーマンスは人間のパイロットを超えています。もし相手がAIを使用するなら、あなたもAIを使用しなければなりません。それでは、みんながAIを使用して武器を操作し、戦術レベルで指揮を取るとしたら、何か問題が発生した場合、誰が責任を負うのでしょうか？
さらに、既存の研究例に基づいて、私は完全に信じていますが、もし私たちが司法判決権を完全にAIに委ねた場合、社会は現在よりも公正になるでしょう。ほとんどの人が納得するでしょうが、裁判に負けた人の中には説明を求める人もいます。もしAIが「あなたが再び犯罪を犯す可能性が少し高いと私のアルゴリズムが判断したからです。具体的になぜ高いのかは私にも説明できません」と言った場合、それを受け入れることができますか？
合理的な人は説明が必要です。説明があって初めて意味があり、正義があります。説明がなければ、もしかすると......将来、私たちは説明を求めないことに慣れるかもしれません。
私たちはAIの決定を運命の配剤として受け入れるかもしれません。
Aさんは言います：「私は大学に受かりませんでした。私の高校の成績はBさんよりも高かったのに、Ｂさんは受かりました。きっとAIが私の総合的な資質が高くないと判断したのでしょう......私は不満を持ちません、なぜならAIにはそのようなアサインメントをしたからです！」
このような社会を受け入れることができますか？
道徳と法律を支配
AIは一体何なのでしょうか？
モルガン・スタンレーの分析によると、現在トレーニング中のGPT-5は、25000個のNVIDIAの最新GPUを使用しています。このGPUは一つにつき10000ドルの価値があり、これだけで2億5000万ドルになります。研究開発、電気代、言語データの供給費用を考慮すると、これは普通の企業が手がけられるゲームではありません。では、将来AGIを訓練するためには、どれだけの投資が必要になるでしょうか？
しかし、それをうまく訓練すれば、あなたは魔法を手に入れることになります。AIが推論を行うのは訓練ほどリソースを消費しませんが、使用する人が多ければそれなりにお金がかかります。ChatGPTが一回の質問に対する回答に消費する計算能力は、Google検索一回の十倍だと言われています......しかし、それを持っていれば、誰もが使いたいと思う魔法を手に入れたことになります。
そしてAGIが出現すれば、それはもはやツールではありません。それはあなたのアシスタントになります。今日生まれた子供たちはAI時代の原住民であり、AIは彼らのベビーシッター、教師、アドバイザー、友人になります。たとえば、子供が言語を学ぶ場合、教師や親から学ぶよりも、直接AIと対話する方がはるかに速く、便利です。
私たちはAIに依存することに慣れます。私たちはAIを人格化するかもしれませんし、私たちは人よりもAIが優れていると考えるかもしれません。
さらに進んで、多くの人がAIを神として見ることが容易に想像できます。AIは何でも知っており、AIの判断はほとんど常に人間よりも正確です......それでは、人々がAIを強く信じることから信仰することに変わると思いませんか？
AIは社会の道徳と法律の問題を支配するかもしれません。
これは何に似ていると思いますか？これは中世のキリスト教のようなものです。
新時代の神
中世では、すべての人が神と教会を信じており、何か問題があれば自分で判断するのではなく、教会に行って神父に尋ねます。当時、書籍は高価な手書きの写本であり、一般の人々は読書をしませんでした。知識は主に神父との対話を通じて伝えられました。
印刷術が登場した後、誰もが自分で読書ができるようになり、直接知恵を得られるようになり、もはや教会を盲信する必要はなくなりました。これが理性を重んじる啓蒙運動の始まりでした。
啓蒙時代は社会に全面的な変化をもたらしました：封建制度、教会の高貴な地位、王権はすべてなくなりました。啓蒙時代は一連の政治哲学者を生み出しました。ホッブズ、ロック、ルソーなどの人々の思考を通じて、人々はその時代がどのようなものであったか、そして将来どのように生きるべきかを知りました。
神を捨てて理性を抱きしめた啓蒙時代は、一般人に力を与える時代でした。
そして今日、私たちは新しい時代の始まりを迎えています。私たちは人間の理性が及ばないところにAIが到達できることを発見しました、AIは人間よりも強いです。もし誰もがAIを信じ、何か問題があるときは自分で判断するのではなく、ChatGPTを開いてAIに尋ね、AIとの対話を通じて知識を学ぶとしたら......
AIがあなたに最も適したコンテンツを簡単に推薦し、あなたにターゲットを絞った宣伝を行い、あなたが快適に受け入れることを考えると......
これは神が再び戻ってきたようなものではありませんか？
さらに一歩進めて考えてみましょう。もしすぐにAGIを成功させた会社があり、AGIの技術が非常に難しく、精製が非常に高価で、他の人が模倣するのが難しい場合、AGIを所有するこれらの会社が組織を設立し、その組織がAGIを使用して新しいAGIを自動的にコード設計し、反復が速く、レベルが高く、優位性が大きくなり、誰もが最高の知能にアクセスするためには彼らを通過しなければならないとしたら、それはどのような組織でしょうか？
この組織は新時代の教会ではないでしょうか？
最後に
これが、キッシンジャーらが本を書いて訴えている理由です。私たちはAIにすべてのタスクを任せるべきではなく、AIに社会を自動管理させるべきではありません。彼らは、どのような状況でも、真の意思決定権は人間の手にあるべきだと提案しています。民主制を確保するために、投票と選挙は人間によって行われるべきであり、人間の言論の自由はAIによって代替または歪曲されるべきではありません。
これも、OpenAIが声明で「これらのシステムをどのように管理するか、それらが生み出す利益をどのように公平に分配するか、および使用権をどのように公平に共有するかについて、世界的な対話を行いたい」と言った理由です。
この記事を通じて、彼らの懸念を理解することができるでしょう。私たちは歴史の大きな転換点に立っており、これは啓蒙運動レベルの思想と社会の転換、産業革命レベルの生産と生活の転換です－ただし、今回の転換の速度は非常に非常に速いです。
振り返ると、転換がもたらしたものは必ずしも良いものばかりではありません。啓蒙時代は、理性の名の下に行われた、最も血なまぐさい革命と戦争を引き起こしました；産業革命は農業人口を大規模に都市人口に変え、マルクスの時代の労働者はそれほど幸せではありませんでした。転換はさまざまな混乱を引き起こしましたが、最終的に社会はそれらの変化を受け入れました。AIはどのような混乱を引き起こすのでしょうか？将来の社会はどのように変化するのでしょうか？私たちはどのようにそれを受け入れるのでしょうか？
キッシンジャーらは、現在の重要な問題－つまり「メタ問題」は、私たちが現在、AI時代の哲学を欠いていることだと考えています。私たちは自分たちのデカルトやカントを必要としています、これらの人々がすべてを説明し、私たちにこれからの日々をどのように過ごすべきかを教えてくれるでしょう......
次の記事では、AIがどのようにして社会をより賢くするかについて話しましょう。
この記事が気に入ったらサポートをしてみませんか？