ポストシンギュラリティの予測 - 私たちの生活、企業、国家はAI革命にどう適応するのか?

13,922 文字

おはようさん、デイビッド・シャピロです。AGIについての動画がめっちゃ人気やったんで、18ヶ月以内にAGIが来るっちゅう大胆な発言をしたんやから、予想しとくべきやったかもしれませんな。
それで、AGI、ASI、スーパーインテリジェンス、そしてシンギュラリティへの道のりが加速してるように見えます。特にRedditのr/Singularityとか他のとこでのコメントを見てると、「これ本当に起こってんの? 指数関数的な急上昇の壁に近づいてるんか?」って感じです。
それを前提に、これから数ヶ月か数年のうちにシンギュラリティに向かってるとしたら、実際どう展開していくか考えてみましょか。
まず、シンギュラリティの定義が必要ですな。いろんな定義の仕方があるんですけど、一番シンプルなのは「AIが全人類の知性を合わせたものよりも桁違いに賢くなる時」っちゅうことです。
現在のAI研究と性能の傾向が続くとしたら、GPT-4は多くの人と同じくらい賢くて、一部の人よりも賢いです。GPT-5の訓練も進んでるし、オープンソース版もどんどん出てきてます。
rocks under a living たんがおっしゃったように、AIの進歩をもう月単位じゃなくて週単位で見とるんです。最近のミートアップで誰かが言うてました。「もう既にシンギュラリティに入ってるんちゃうか。週単位で進歩を測ってるんやから。そのうち日単位になるかもしれん」って。
ほな、マクロ経済的な変化から見ていきましょか。シンギュラリティで何が起こるか。
まず、何が希少なままか考えんとあかんのです。AIがどんなに賢くなっても変わらへんものがあるんです。
まず、望ましい耕作可能な土地。砂漠は砂漠のままやと思います。この砂漠の女性のAI生成画像見てください。後で核融合の話するときに触れますけど。
それから新鮮な飲料水。地球上の水のほとんどは塩水ですからね。これも核融合とか他のエネルギー源で変わるかもしれませんが。
あと、鉱物とか天然資源みたいな物理的な資源も、AIがどんなに賢くなっても希少なままやと思います。これらの資源の価値が急上昇する可能性がありますな。
さっき言うた通り、核融合を実現できたら、海水を淡水化したり、砂漠を灌漑したりできるかもしれません。でも、地球上の全ての砂漠を灌漑したら、生態系に重要な役割を果たしてるかもしれんから、予期せぬ結果になるかもしれませんね。
最後に、宇宙飛行を実現できたら、小惑星や他の惑星からレアメタルを採掘し始められるかもしれません。太陽系には何兆ドルもの価値があるレアメタルがありますからね。
シンギュラリティでこれら全てが解決される可能性はありますが、少なくとも短期的にはこれらの資源は希少なままやと思います。
一方で、マクロ経済的に見て、シンギュラリティで何が豊富になるかっちゅうと、知識、情報、認知労働です。認知労働っちゅうのは、考えること、知的労働、サービス業の仕事のことです。
AIが人間よりも桁違いに賢くなって、しかも人間がコントロールできてる状態を想像してください。これは良い結末を仮定してるんです。人類が全滅せんかったらの話ですね。
つまり、人間の認知的な努力が無意味になるんです。ひどい話に聞こえるかもしれませんが、個人レベルで見ると、ほとんどの人の認知的な努力は既に無意味なんです。80億人の地球で、あなたが取り組んでる問題を誰かが既に解決してる可能性が高いんです。それに気づいてるかどうかは別として。
科学をしたり問題を解決したりするのは本当に難しくて、ほとんどの場合、タイミングと場所が合うかどうかの問題なんです。
とはいえ、まだ解決されてない問題はあります。超高度なAIを持つシンギュラリティでは、今見てる行動がさらに加速するだけかもしれません。人類の集合知は問題をかなり早く解決しますからね。
でも、その問題解決のスピードが数段、もしくは桁違いに上がるかもしれません。まだわかりませんが。
認知労働の超過剰は、想像するほど即座に劇的な影響はないかもしれません。RedditやTwitterなどのソーシャルメディアプラットフォームを見てください。問題を解決し、答えを得て、すぐに次に進めますよね。
基本的に、怠惰なTwitterやRedditの代わりに、機械に問題を尋ねることになります。今まで人間が集団でやってたことを、これからは機械がやるようになるんです。
実際、私が自律型AIプロジェクトで一緒に働いてる人たちと、AIが互いに安全で透明な方法で自律的に対話する方法を見つけるのが重要な課題の一つなんです。
ここで自然言語が重要になってきます。AIに独自のコード化された言語で話させたくないんです。人間が読める自然言語でAIに話させたいんです。まあ、これは別の動画のトピックですね。
ほな、マクロ経済の変化から、技術的なブレークスルーに話を進めましょか。
突然、認知的な努力や認知労働が過剰になったら、どんな技術的解決策が考えられるでしょうか。
まず、高エネルギー物理学です。CERNのLHCで研究されてるようなものです。これには核融合も含まれます。反物質研究も含まれるかもしれません。タイムトラベルや光速を超える旅行も、誰にもわかりません。
でも、高エネルギー物理学で最初に解決される問題は、おそらく核融合でしょう。
核融合を解決することで何が起こるか予測するのは本当に難しいです。核融合は今日のどんなエネルギー形態よりも1000倍パワフルで効率的ですからね。
突然、エネルギーが過剰になると、他のたくさんのことが可能になります。例えば、必要なだけ海水を淡水化できるようになります。地下農場を運営することもできます。耕作可能な土地に縛られなくなるんです。
核融合を解決すれば、他にもたくさんのことができるようになります。短期的にはいくつかのアイデアを思いつきますが、長期的には核融合を解決することで、他の多くの問題も解決されるんです。
リサイクルも解決されます。どんなに高価な材料でも、単に溶かして再利用できるようになるからです。リチウム、コバルト、ニッケル、プラチナ、金など、ほぼ全ての鉱物が、どんなに分離が難しくても手に入るようになります。
突然、実質的に無料で常に大量のギガジュールのエネルギーが利用できるようになれば、材料をリサイクルするのにどれだけエネルギーがかかっても問題なくなるんです。これは一例です。
認知労働が過剰になることで解決されると予想される問題のもう一つのセットは、基本的に病気、遺伝学、老化です。
人体、遺伝子、代謝は、存在する中で最も複雑なシステムの一つです。人体だけでも10万以上の代謝経路があることがわかっていて、それらが全て相互作用しています。
それだけじゃなく、遺伝子、エピジェネティクス、腸内細菌叢など、全てが相互作用する超複雑なシステムなんです。
でも、知性が過剰になれば、新しいツールを作り出し、新しいプロセスを作り出し、膨大な量の情報を管理できるようになります。
そうすると、シンギュラリティかAGIか、どう呼ぶにしても、それを達成してから比較的短期間で、全ての病気、老化を治し、全ての遺伝学を解明できるかもしれません。
最後に、材料科学です。AlphaFoldで既にその始まりを見ています。
AlphaFoldをご存じない方のために説明すると、これはディープニューラルネットワークを使って、タンパク質の折りたたみをモデル化する方法です。これは未解決問題でしたが、今や解決されました。
これを次のレベルに持っていくと、全てのタンパク質の折りたたみだけでなく、全てのタンパク質の相互作用、全ての遺伝子の相互作用をモデル化できるようになります。
さらに一歩進めると、ナノ粒子や炭素をモデル化したり測定したりできるようになります。非常に高度な材料の作り方を予測できるようになり、例えばバッテリーやコンピューター技術に革命をもたらす可能性があります。
AIによる材料科学のブレークスルーにより、5年から10年後には、あなたの携帯電話が今日の地球上の全てのコンピューターよりも強力になる可能性があると予測しています。
これは誇張ではありません。携帯電話の原子に含まれる計算能力の量は、例えば膜や3次元ウェハーがあれば、基本的に想像を絶するものなんです。
だから、シンギュラリー後にカルダシェフスケールを1段階か2段階上がっても驚きません。
とはいえ、まだ解決されていない問題もあります。地球上のどれだけの知的労働でも解決できない問題があるんです。
例えば、コメントで誰かが意識のハードプロブレムについて尋ねていました。これは機械では解決できない可能性があります。私たち人間が自分で解決しなければならないかもしれません。
これは存在の根本的な問題や宇宙論にも及びます。これらの中には、数学的に証明したり実験室で測定したりする問題ではなく、解釈の問題や主観的な価値観の問題もあります。例えば人生の意味なんかがそうですね。
トランスヒューマニズムやポストヒューマニズムを語るとき、人々は何らかの超越的な出来事を想像します。
個人的には、シンギュラリティがスタートレックのQのような存在になったり、エネルギー体になったりするような超越的な出来事にはならないと思います。
マインドアップロードもいいアイデアだとは思いません。多くの人がそれを素晴らしいと考えているのは知っていますが、私たちはなぜ意識があるのかを理解していません。
マインドアップロードを試みても、自分のコピーをアップロードするだけで、体は死んでしまうと予測します。主観的には死んでしまうけど、あなたのコピーが永遠に続くということです。
だから、マインドアップロードはいいアイデアだとは思いません。もしそうなら、私たちは永遠に有機体の体に閉じ込められたままでしょう。たとえサイバースペースでデジタルコピーが遊んでいたとしてもです。
そのデジタルコピーは私たちではありません。全く異なる制約を持つことになります。あなたや、あなたのコピーがデジタル実体になったら、突然、同じ生物学的制約を持たなくなるからです。
そうすると、デジタルポストヒューマンと、私たち有機体の肉袋との間に大きな分岐が生まれます。これは、AIが私たちのために解決してくれそうにない未解決の問題だと思います。
さて、社会的変化、仕事と職業に話を移しましょう。
機械がより知的になるにつれて、要するに、ほとんどの仕事が無意味になります。
これについて人々と話しましたが、誰も本当にやりたくないけど、食べるために、家のローンを払うためにやっている仕事がたくさんあるんです。
だから、意味や目的、成功についての考え方を再調整する必要があります。これには、創造性、探求、自己改善により重点を置くようになるかもしれません。
ChatGPTとの議論から出てきたアイデアの一つは、社会として、一つの教育基準に従うんじゃなくて、皆それぞれのユニークな部分に焦点を当てるようになるかもしれないっちゅうことです。
これは教育の新しいモデルとして面白いですな。学校に行って、みんな同じ授業を受けるんじゃなくて、幅広いプロジェクトや実験があって、自分が本当に気にかけてることや、自分を際立たせるものを見つけ出すっちゅう感じです。
そうすると、みんながめっちゃ違う教育に焦点を当てることになります。私の最初の1年はモンテッソーリ学校やったんですが、それをさらに発展させたイメージですね。
「仕事がなければ人生に意味がない」って言う人がおるのは知ってます。それはあなたのネオリベラル的な刷り込みが話してるんです。
私や他の人たちが違う種類の仕事に移行したように、今の私の仕事はYouTubeとPatreonで、以前よりもずっと面白くてやりがいがあります。これは過去に存在してた生活様式にもっと近いんです。
例えば、古代ギリシャ、特にスパルタでは、市民は仕事を持つことを許されてませんでした。彼らの仕事は兵士になること、狩りをすること、政治家になること、文化や社会に参加することでした。革職人とかそんなんじゃなかったんです。
まあ、古代スパルタは最終的にはうまくいかんかったですけどね。古代アテネの方がずっとうまくいきました。市民階級、余暇階級に似たようなモデルがあったんです。
古代ローマも同じです。人類は以前にも、こういう事実上の脱希少性の世界に適応してきたんです。ただし、その時は従属階級の人々の背中の上に乗っかってた訳ですが。
今度は、私たちみんなが、AIの背中の上に乗っかって、脱希少性の余暇階級に入ることになるんじゃないかと予測してます。
正直、ほとんどの人がそれを望んでるんですから。みんなの集合的な意志がそれを望むなら、誰が気にするでしょうか。
「企業はそんなことを絶対に許さないよ」って文句を言う人の声が聞こえてきそうですね。その話はすぐにしますから。
急に誰の仕事も本当に重要じゃなくなったら、私たちは何をするんでしょうか?
ミートアップでの会話の一つで、「みんなただゲームをするだけになるんじゃないか」って話になりました。
実は、ビデオゲームがこんなに人気なのには理由があるんです。ビデオゲームは社会的なつながりを育むことができるからです。今日のゲームの多くは非常に社会的です。
また、ゲームは挑戦的で、能力の感覚やマスタリーの感覚を与えてくれます。最後に、ビデオゲームは多くの自律性を与えてくれます。ゲームの世界では、あなたは望む誰にでもなれるんです。
これら3つのことが、自己決定理論の3つの柱である自律性、人間のつながり、能力を満たしています。だからこそ、多くの人がビデオゲームをプレイするんです。
自己決定理論を見て、仕事の必要性を取り除いて、AIが私たちにもっと自律性を与え、もっと人間的なつながりの機会を与えるとしたら、残るのは挑戦だけです。
従来の仕事から離れたり引退したりする多くの人にとって、「ああ、新しい方法で自分に挑戦できるんだ」って気づくんです。
私のYouTubeチャンネルを見てる皆さん、私は実際にやってるコーディング実験を全部やる必要はないんです。でも、問題を解決しようと自分に挑戦するのが本当に満足感があるんです。
みんながこういう問題解決に取り組むって言ってるわけじゃありません。武道を始めたり、山に登ったりする人もいるでしょう。でも、私たち人間は挑戦が大好きなんです。能力を感じ、何かをマスターする感覚が必要なんです。
サム・オルトマンのインタビューで彼が指摘したように、AIは囲碁やチェスなどを解決しましたが、私たちはまだチェスをプレイしています。ただ、コンピューターとはプレイしません。絶対に勝てないものに対してマスタリーの感覚はないからです。
長期的には、おそらく新しい社会構造が現れるでしょう。あるいは、古い社会構造が再び現れるかもしれません。
特に、多世代の家族が増えたり、より部族的な、あるいは村のようなライフスタイルが再び現れると予測しています。
突然、「おっ、俺が本当に好きな十数人がいて、誰も仕事がないから、田舎にエコビレッジを作ろうぜ」とか、「都市部でコリビングしようぜ」みたいなことが起こるかもしれません。まあ、これは推測ですけどね。
約束通り、部屋に居る象について話しましょう。私が概説したこのバラ色のポストシンギュラリティの結果に関わるリスクと要因を全部解きほぐしていきます。
まず一つ目は、AIの開発とコントロールです。多くの人がご存知かもしれませんが、イーロン・マスクやマックス・テグマークを含む多くの人が署名した手紙が出回っています。AIの進歩を少なくとも6ヶ月間停止し、一息ついて再評価しようという呼びかけです。
もし私たちがブレーキをかけずに進み続け、人々が間違ったやり方をすれば、何らかのディストピア的な、あるいは大惨事的な結果になる可能性があります。
基本的に、二つの主要な失敗モードがあります。一つはAIのコントロールを失い、AIが私たちを全員殺すことを決定するというものです。もう一つの主要な失敗モードは、AIのコントロールは失わないけど、間違った人々が強力なAIを手に入れ、それを使って他の全ての人を殺すか隷属させるというものです。
これらはAIの開発とコントロールに関する二つの主要な失敗モードです。これはたくさんのフィクションで探求されてきました。
正直、もう飽き飽きしてるんで、これ以上は詳しく話しませんが、要するに、99%の人々はAIによる黙示録を望んでいません。
一部の人々はそれを本当に願っているように見えますが、それはある種のニヒリズムが漏れ出てるんだと思います。避けられないと考える人もいて、一種の宿命論があります。
そういう人々の気持ちはよくわかります。サム・オルトマンの意見に同意します。多くの人々が恐れていて、彼らが間違っているとか、愚かだとか、魔法のような考え方だとは言いません。私たちは火遊びをしているんです。
ただ、私は非常に楽観的なんです。なぜなら、一つには、存在する全ての問題は解決可能だと感じているからです。二つ目に、それらは非常に近い将来に解決可能だと思うからです。
もう一つの大きなリスクは、利益の分配です。これは人々が最も心配していることの一つです。
「企業が本当に皆に贅沢な生活を送らせると思うの?」とか「金持ちや権力者が他の全ての人に自分たちのように生活させると本当に思うの?」というのが最も一般的な反論です。
まず、彼らにそれほど選択肢がないかもしれません。そして、私たち大衆、プロレタリアートは、サイバーパンク地獄に住みたくないんです。
歴史を通じて、人々がより飢えて絶望的になると、繰り返し何が起こったかを見てきました。最近の例では「アラブの春」があります。中東のアラブ世界の多くが立ち上がり、その主な要因は経済状況でした。
さらに遡れば、フランス革命もそうです。こういうことは何度も何度も起こってきました。
だから、私はそれほど心配していません。いざとなれば、人々は立ち上がって、強制的に再分配するでしょう。
内戦とかを提唱してるわけじゃありません。そこまでいかないと思います。私はダボスや世界経済フォーラム、国連、IMF、世界銀行など、権力の中枢を追っかけてます。
権力の中枢は本当にこれに注目していて、準備していると思います。
例えば、パンデミック中にアメリカが行った景気刺激策は、再分配が機能することを示すパイロットプログラムだったと私は考えています。
それが迅速で効率的で公平だということを示したんです。彼らは景気刺激小切手を給与保護プログラム（PPPローン）と並行して行いました。
基本的に、PPPローンは高額で腐敗に満ちていて、景気刺激小切手は必要とする人々に直接行き渡り、必要とする個人によって全て使われたことを示す並行テストを行ったんです。
だから、景気刺激小切手はUBI（普遍的基本所得）のパイロットプログラムかプロトタイプだったと考えています。
現在の状況を見ると、30万人以上のテック業界のレイオフがあり、ChatGPTのような技術のために他の種類の人々も既にレイオフされ始めています。
私の婚約者は作家で、たくさんの作家のDiscordにいますが、AIのせいで既にレイオフされたり仕事を失ったりしているコピーライターがいます。
AIによるレイオフは来ています。だから、たくさんの景気刺激小切手も来ると思います。問題は、これらの景気刺激小切手が永続的かどうかです。私は永続的になると思います。
規制環境については、最近出た手紙が規制を求めています。サム・オルトマンも規制を求めています。イーロン・マスクも規制を求めています。多くの人々がより多くの規制を求めています。
ここでの大きな問題は、これらのことをどう規制するかについて合意がないことです。ミートアップでの会話で、すぐに「どうやってそれを施行するの?」という質問が出てきました。
これらのモデルが全てより速く、より効率的になり、今ではラップトップで実行できるようになっています。このジーニーをボトルに戻すことはできません。
だから、規制は本当に重要なのか、もし重要だとしたら、どのようにして?という疑問が出てきます。
連邦レベルや国際レベルでの規制環境に関する大きな懸念は、既存の権力構造とステータスクオです。
裕福で力のある人々は、地球上で最も裕福で強力であり続けたいと思うでしょう。それはそうですし、いつもそうでした。
フランス革命やアメリカ革命のようなリセットイベントは歴史上ありましたが、一般的に暴力的で、私たちはそれを避けたいと思っています。
権力者たちもそれを避けたいと思っているでしょうが、私が行った会話での最大の問題は、物事が非常に速く進んでいるのに、老人政治（ジェロントクラシー）が支配していることです。
一般的に、お年寄りはAIを理解していません。どれだけ変化が起きているのか、なぜ起きているのか、その影響がどうなるのかを理解していません。
これが実際に最大のリスクの一つかもしれません。私たち若い世代は理解しています。それが来ているのが見えています。
私が参加したミートアップの中には、子供たちが既にAIの世界に順応しているという人もいました。彼らはAIの方を人間よりも信頼するようになるでしょう。
政治家は嘘をつきますが、ChatGPTは時々間違えることはあっても、政治家のようには嘘をつかないからです。
規制の面では、非常に興味深い進展が待っています。
大衆の認識と適応については、多くの恐れ、不確実性、疑念、否定主義、破滅主義があります。また、「それはまだ数十年先の話だ」と言う人も多いです。でも、数十年じゃなくて、数ヶ月か数年の話なんです。
この不確実性や否定主義にはいろんな側面があります。例えば、「AIは絶対に人間ほど賢くならない」とか「AIが人間より賢くなることはない」と考えてる人がおります。
正直、そう言うてる人よりもAIの方が既に賢いと思います。ただ自律性が欠けてるだけです。まあ、これは私の意見で、反対の人もおるでしょうけどね。
これも大きなリスクです。多くの人が現実から目を背けてるんです。
世界中のコメントを見てると、例えばフランスでは全然話題にもなってないって人もいました。ChatGPTはニュースになりましたが、人々はこれがどれだけ速く進んでいるかを理解せずに、集団的に肩をすくめただけなんです。
大衆の認識と順応も大きな障壁になる可能性があります。
グローバルな協力と協調については、私が「トラウマ政治」と呼ぶものが大きな問題です。
プーチンや習近平のような人々を見てください。彼らは自国のディストピア的な政府から tremendous な量のトラウマを受けています。
基本的に、彼らは自己慰撫の目的で権力を求めているんです。それだけです。
大量のトラウマを抱えた人々が権力を握ると、より虚無的な世界観を持つ傾向があります。
その結果、大量虐殺、大量投獄、監視国家などが起こります。彼らはできるだけ多くのコントロールと権力を欲しがり、それは決して満足することがありません。
この虚無主義は、自己成就的予言も生み出します。彼らは自分の痛みを世界に投影し、さらなるトラウマを引き起こすんです。ウクライナ戦争を見てください。中国のウイグル族に対する扱いを見てください。
そして、それがさらなるトラウマ、世代間トラウマの自己永続的なループを生み出すんです。
私の意見では、この未解決の基本的に世代間PTSDや虚無主義が人類にとって最大の脅威です。
なぜなら、こういう人たちがAIを見て、「あ、これは完璧な支配の武器だ。これは完璧な隷属化の武器だ」と考えるからです。
一方、健全な個人はAIを見て、「そういうことはしない方がいいかもしれない」と考えます。
シンギュラリティの事実について、よく出てくる質問をいくつか取り上げてみました。
ポストシンギュラリティでお金はどうなるんでしょうか?
暗号通貨が未来だと考える人もいれば、お金を完全になくすべきだと考える人もいます。
良いニュースと悪いニュースがあります。良いニュースは、お金が変わる可能性が十分にあるってことです。通貨システムや金融政策は変わるでしょう。
しかし、通貨やお金の概念は너무有用で役に立つので、なくなることはありません。
抽象的な価値の貯蔵手段であり、非常に良い交換手段だからです。
ビットコインや他の暗号通貨が法定通貨に取って代わるかどうかについては、どちらとも言えません。
ただ、何らかの形で通貨は残り続けると思います。
個人的には、暗号通貨には多くの問題があると思っています。
主に、操作の対象になりやすいことです。その価値が大きく変動する可能性があるからです。
ビットコインなどの激しい価値の変動は、それが安定した価値の貯蔵手段ではないことを証明しています。
人々は暗号通貨で財産を失っています。もちろん、財産を築いた人もいます。でも、必ずしも善意を持った人ばかりではありません。
組織犯罪は暗号通貨を愛しています。
人口については、どうなるでしょうか?
これは本当に興味深い問題です。地球の実際の収容能力について、多くの議論があります。
簡単に50億人は大丈夫だと言う人もいますが、そうじゃありません。地球の収容能力は全然50億人に近くありません。
技術的には、50億人の人間が物理的に入る余地はあります。しかし、熱力学的制約、水循環、耕作可能な土地の量を考えると、そうはいきません。
シンギュラリティが核融合などをもたらせば、その限界を少し押し上げられるかもしれません。
特に、耕作可能な土地を合成したり、地下で食料を栽培したり、海水を淡水化したりできれば、地球の収容能力をかなり増やせるかもしれません。
それでも、50億人というのはまだ遠い話に思えます。
最大の問題は、エネルギーの制約を克服したとしても、持続可能な管理になると思います。
なぜなら、今日でさえ、物流が崩壊したら、私たちはすぐに飢えてしまいます。
地元で調達した食べ物がないからです。食べ物や水は、非常に安定したインフラに依存しています。
50億人の人口になれば、この問題はさらに悪化します。
だから、持続可能で責任ある必要資源、主に食料と水の管理が、人口問題のカギになると思います。
私が参加した議論では、いくつかの交絡因子がありました。
このスライドには載っていませんが、老化問題を解決したらどうなるでしょうか?
人口に起こることは、ジェンダーの平等が進むと、女性は子供を産む数を減らす傾向があります。
人々がより長く生きるけれど、子供を産む数が少なくなったらどうなるでしょうか?
人口は安定すると予測しています。子供を欲しがる人は常にいるでしょう。
同時に、本当に深く子供を欲しいと思わなければ、おそらく子供は作らないでしょう。
脱希少性の生活では、子供を全く持たないことを選ぶかもしれません。
繰り返しますが、子供を持つことを選ぶ人もいるでしょう。
老化問題を解決しても、人々はまだ死にます。事故は起こり続けるでしょう。
まだ解決されていない医学的問題も少しはあるかもしれません。
でも主に、事故で亡くなる人が出るでしょう。
出てきた会話の一つは、「仮に永遠に生きられるとして、本当にそれを望むのか?」というものでした。
多くの人は、実際には永遠に生きたいとは思わないだろうと考えています。
数百年は生きたいと思うかもしれませんが、そのうち人生に疲れて、寿命延長薬の服用をやめ、自然に死ぬことを選ぶかもしれません。誰にもわかりません。
個人的には、人口は安定すると予測しています。
食べ物については大きな話題になっています。
核融合によって垂直農業や地下農業ができるようになれば、どこでも何でも食べられるようになるでしょう。
それに加えて、バイオテクノロジーが私たちの食生活を大きく変えると思います。
合成食品、エンジニアリングされた食品、さらには超個人化された食事です。
例えば、一般的に乳製品は飽和脂肪があるから体に悪いと思われているかもしれません。
でも、私が乳製品を食事に増やしたら、全ての数値が良くなりました。それは単に私の遺伝子にそう書かれているからです。
でも、これは試行錯誤で見つけ出さなければなりませんでした。乳製品は一部の人のコレステロールを上げますが、私の場合は下げたんです。
エンジニアリングされた食品、より良いバイオインフォマティクスとバイオテク、そしてモバイルファームの組み合わせで、これが変わるでしょう。
実際、最初のポータブルファーム、コンテナ輸送用コンテナファームの広告を見ました。これはこれからどんどん良くなっていくでしょう。
つまり、スーパーに行けば、欲しいものは何でもあって、それが新鮮で地元産ということです。
「ステーキやハンバーガーを取り上げるんじゃないか」と心配している人もいますが、そうは思いません。
実際には、もっと多くの選択肢があって、それらがより健康的な選択肢になると思います。これがポストシンギュラリーの世界です。
戦争については、さっきトラウマ政治と地政学の話をしましたね。
明らかに、ここで最大のリスクはAI軍拡競争です。
深くトラウマを負った独裁者に率いられていない自由民主主義国家でさえ、何らかのAI軍拡競争に関与するでしょう。
これは不幸な現実です。これが良いことだと言っているわけではありません。道徳的な判断をしているわけではありません。単なる観察です。
新しい技術が登場するたびに、それは軍事装置に統合されます。
また、少なくとも近い将来は、世界政府ができるとは思いません。
これには様々な理由がありますが、言語の壁や文化の違い、文化間の過去の不満などが最も大きな理由です。
文化間の傷を癒すには何世代もかかる可能性があります。人々がそもそも協力したいと思うようになるまでに。
中国と日本、イスラエルとパレスチナ、イランと他の多くの国々の間の敵意を見てください。
これらの傷を癒すには多くの努力が必要で、癒すことへの抵抗も大きいです。これらの傷は悪化し続ける可能性があります。
私が望んでいるのは、AIが世代間トラウマのサイクルを断ち切るのを助けることです。
そうすれば、2、3世代後には、より平和な地球規模のコミュニティの準備ができているかもしれません。
繰り返しますが、世界政府はまだ起こらないと思います。
地理的に見て、国民国家や連合モデルが最も理にかなっているからです。
フランスはフランスのまま、イギリスはイギリスのままですが、欧州連合の一部ですよね。
時間とともに、これらの大陸規模の連合はより強くなると思いますが、地方政府に取って代わることはないでしょう。
市町村、地方自治体、郡、州政府、連邦政府があるのと同じように、その上にいくつかの階層が追加されるだけだと思います。
最終的には地球規模のガバナンスに至るでしょうが、少なくとも2、3世代先の話だと思います。
最後に、企業についてです。約束した通り、この問題に取り組みましょう。
一部の人々、私も含めて、企業が今の形ではなくなることを望んでいます。
なぜなら、企業は本質的に非道徳的だからです。非道徳的というのは、不道徳という意味ではありません。
企業の道徳性は、投資家、つまり株主にのみ縛られています。株主は単により多くの価値を求めます。どんな代償を払ってもです。
企業は常に、法的に許される範囲のあらゆる隙間を探ります。
そして、それはしばしば人々の虐待や環境破壊などの悪い結果をもたらします。
企業は本質的に非道徳的なので、私はそれらがなくなることを望んでいます。
でも、そうはならないと思います。
シンギュラリティがどうやってこれを実現できるか考えてみましたが、探れば探るほど、そうはならないと気づきました。
基本的に起こることは、AIによって企業はより少ない人数でより多くの生産ができるようになります。
生産性は上がり続け、従業員数は減り続けるでしょう。
数ヶ月前のAIジョブ黙示録の動画で話したように、基本的に起こることは、企業ができるだけ多くの労働者を置き換えることです。
そうすると、所有者階級、株主やCEOなど、誰であれ、基本的に無制限の株価上昇を手に入れることになります。
突然、企業を運営する上で最大の制約であり、最も高価な側面である人間の労働力が要因ではなくなるからです。
私たちは、ディストピア的なSFに出てくようなメガコーポレーションのリスクにさらされていると思います。
従業員がほとんどいない、株主とAIだけで完全に運営される何兆ドル、何百兆ドルの企業が出てくるリスクがあると思います。
これは興味深い問題ですね。彼らが私たち残りの人間をどのように生活させるかについては、正直彼らは気にしないと思います。
企業がこれほど巨額の富を持っているのに、他の全ての人を奪うためにエネルギーを費やすのは意味がないからです。
例えば、イーロン・マスクがSpaceXを使って小惑星の採掘を始め、イリジウムやコバルト、プラチナを小惑星から採掘することで、SpaceXが20兆ドルの企業になったとしましょう。
イーロン・マスクが個人的に「実際、世界中の人々はスラムやファベーラに住むべきだ」と言うでしょうか? そんなことはないでしょう。
彼は自分が何兆長者である限り、他の人々がどう暮らすかなんて気にしないでしょう。
そう考えると、企業が意図的に私たち残りの人間からより良い生活を奪うには、多くの意図的な努力が必要だと思います。
だから、そんなことは起こらないと思います。
確かに、気をつけるべきことではあります。なぜなら、繰り返しますが、企業は本質的に非道徳的であり、これが将来の私たちの生活水準に対する最大のリスクの一つだからです。
以上です。ご視聴ありがとうございました。
この動画が啓発的で、考えさせられるものだったと思います。
コメント欄で意見の相違があるかもしれません。礼儀正しく議論してください。さもないと追放されますよ。ありがとうございました。さようなら。