AIが地政学に与える影響

29,040 文字

おおきに、ライブプレイヤーズへようこそや。ここでは政治学者で戦略家のサムオーブアと一緒に、現代社会を変える力を持つ重要な人物について毎週議論しとるんや。ニュースの分析やライブプレイヤーのケーススタディ、そして世界の権力構造を形作る主要な機関や技術についても取り上げていくで。さあ、始めよか。
今日のエピソードでは、サムオーブアと、ライブプレイヤーズを提供するターペンタインネットワークの別番組「コグニティブレボリューション」のネイサン・レーベンとの対話を特集するで。二人はAIと地政学の交差点について議論しとるんや。どうぞお楽しみくださいな。
サムオーブア、ビスマーク分析の創設者やな。ようこそ。
ありがとう、来れて嬉しいわ。
あんたは戦略分析と、クリスタルクリアなモノローグで知られとるな。わいはあんたとエリックの番組「ライブプレイヤーズ」の熱心なリスナーや。国家レベルのライブプレイヤーについての深い分析を聞きたい人には絶対おすすめやで。
今日の世界で最もホットなトピックの1つが、徐々にあらゆる地政学に浸透しつつあるAIやな。これは多次元的な話題やけど、まずは異なるライブプレイヤーの利害や立場、戦略について深く掘り下げる前に、あんたのAIに対する世界観について少し背景を教えてほしいんや。
多くの会話が、AIが超強力になるか、そうでもないかという質問で早々に分かれてまうんやけど、その話題の議論は別の機会に取っておこか。今回は、残りの分析をより良く理解できるように、あんたの見通しについて人々に感覚を掴んでもらいたいんや。
AIは人々にとって興味深いテストやと思うわ。AIについて話す時、基本的に自分のすべての世界モデルを見直さなあかんのや。どの仮定が成り立つか、どの仮定を捨てるべきか、再考せなあかんのや。AIの未来に対する人々の期待が、技術に対する一般的な考え方や、さらには心とは何か、人間とは何か、人間の何が特別なのかについての一般的な考え方をどれだけ反映しとるか、ほんまに面白いわ。
例えば、現在のAIモデルが示す主体性の欠如にすごく注目する人もおるやろ。むしろ知能よりも主体性こそが最も価値があるもんやと言うかもしれん。一方で、それを無視して「生成的知能を実現するために本当に必要なのは、for文を回すだけや」と言う人もおるやろ。
まず最初に言うとくけど、それは完全に正しいわけやないな。でも、AGIを生み出すのに全く異なるプロセスが必要なのか、それとも生成AIの通常の応用を通じて小さな調整で済むのか、これは根本的な問いやわ。
ほな、まず最初に言うとくけど、2000年代初頭には人工知能のコンピューターサイエンスにおいて本当の科学的進歩があったんや。当時は「AI科学者」という言葉が実際に意味を持っとったし、今でもある程度意味があるわ。過去4、5年で、より大規模なモデルが訓練されるにつれて新たなブレークスルーがあったけど、大部分は2000年代初頭の理論的洞察を単に応用しとるだけやな。
だからこそ、現在LLMの背後にあるほとんどのテキスト生成に使われとる、いわゆるTransformerアーキテクチャの功績を誰に帰すべきかについて、多くの議論があるんや。実際、LLMという言葉自体、技術よりもアプリケーションを指す言葉になっとるな。車の中に内燃機関が入っとるか電気モーターが入っとるかを区別せずに、単に「車」と呼ぶようなもんや。
基本的にテキスト生成、つまり知識の生成に対する需要が生まれたんやから、Transformerが実現したこと以上に最適化するような、アーキテクチャの革命が起こると確信しとるわ。だから、人工知能の科学、つまり理論面やアーキテクチャ面、そして異なる種類のより大規模なデータセットが何をもたらすかの発見において、さらなる進歩が続くと予想しとるんや。
ある意味で、我々はそれを発見しつつあるんやけど、起こっとることの背後にある強力な理論はないんや。これは重要な点やな。これは、例えば超音速飛行の開発プロセスとは全然違うんや。超音速飛行の場合、科学の80〜90%は既に解決済みで、物理学のモデルがあって、物理学をそれほど押し進めてないんや。流体力学の細かい部分は別として、それはカオス的やけどな。我々はただ理論に基づいて工学をやっとるだけや。
ここでは、工学が理論をはるか昔に追い越してもうて、我々は継続的に驚かされとるんや。これは単なるビジネスベンチャーやないんや。アプリをリリースするだけやない。訓練の実行は実際には実験なんや。これを、世界中で数十のラージハドロン衝突型加速器を建設したようなもんやと考えるべきや。スイスとフランスの国境にあるCERNの科学実験施設のようなもんや。そこでは莫大なコストをかけて粒子を加速させとるんや。
今じゃ、これらの新しいソフトウェア企業の1000億ドルの評価額なんて退屈になってもうた。誰もそれほど興奮せえへんわ。また一人のAI科学者が自分のラボを立ち上げるために出て行っても、もはやそれは当たり前のことになってもうたんや。だから、これらの非常に大規模な訓練の実行は、単なる通常の技術開発やなくて、正当な科学実験やと思うんや。
なんでこんなに認識論について長々と話したかっていうと、予測する際には極端に慎重にならなあかんと思うからや。これは実際にはムーアの法則とは全然違うと思うんや。これらのシステムが何をするか、何をしないかについて、我々は継続的に驚かされとるんや。既に所謂スケーリング則からの逸脱が多くあったから、それはおそらく完全に正しい仮説やなかったんやと認めなあかんと思うわ。
例を挙げると、既に計算量の増加に対して出力の大幅な改善が見られへんのに、既存の出力を得るための計算量を減らす方法を突然見つけとるんや。つまり、AIはより計算効率が良くなっとるんや。これは6ヶ月前の人々の予測とは違うし、18ヶ月前の専門家、少なくとも起業家の予測とも違うんや。専門家と起業家を区別するなら、やけどな。
本当に、我々はこれらの根本的な科学を全く理解してないと思うわ。わいは個人的な興味と、職業的な意味の両方で、自分の考えや研究を深めてきた。最高のAI科学者たちに深くインタビューもしたけど、彼らの間でも意見の一致がないんや。互いに一致してないんや。
だから、スケーリング則への熱狂は、「半導体の物理学をある程度理解してるから、あとはムーアの法則の問題や」みたいなもんやったと思うわ。ムーアの法則は、ある意味でインテルのビジネスプランみたいなもんやな。それは経済的、社会的、技術的な法則やけど、ここでは我々はいつでも科学的な障壁に遭遇する可能性があるんや。
もっと計算能力を投入し続けるだけでは、うまくいく保証はないんや。より多くの計算能力が利用可能になると予想できるけど、これらの訓練の実行が何をしとるかについてのデータが十分に集まれば、これが何なのかについての科学的理解が得られるかもしれんのや。
コンピューターサイエンスでは、常に「実際にどれだけの有用なコンピューターサイエンスがあるんや」「どれだけが単なる工学で、コンピューターサイエンスを新しい問題に応用しとるだけなんや」という興味深い疑問があったんや。ここには、コンピューターサイエンスの広大な未開の分野があるんや。
これが、AIの理論的基盤について慎重に考えることが重要な理由の2つ目につながるんや。単に経験的な結果だけやなくてな。これはわいの進歩の理論や。文字通り、誰が最も多くの計算能力を持っとるかなんて追跡せえへんわ。それを知ることは重要やし、最善の情報を集めた小さな表を持っとくべきやけど、四半期ごとやなくても、6ヶ月ごとに更新する必要があるわ。根本的に変わるからな。
人々は深く掘り下げて、見つけられるすべての計算能力、すべてのGPUを見つけようとしとる。有利な取引を結ぼうとしとる。この企業政治の話は超面白いわ。でも結局のところ、最も多くのお金を集めて最も多くの計算能力を持つ企業に賭けるんやなくて、最高のAI科学者を持つ企業に賭けるつもりや。
例えば、デミス・ハサビスの書いたものを読んだり、彼の言うことを聞いたりすると、結局のところ、彼は知能の本質に関する質問に答えたいんや。イリヤ・スツケバーには、モデルについて話す時、ほとんど宗教的なオーラがあるわ。彼にとって、これは宇宙の美しさ、知能の美しさに関するものなんや。これはその発見に関するものなんや。
科学者たちがこのように自分の分野について話すのを聞くと、彼らには非常に深い動機があることがわかるわ。この動機は金儲けの動機、利益を上げる動機によって助けられるかもしれんけど、こう言わせてもらうわ。みんながただ金儲けしようとしとるAI企業を見たら...AIで金儲けするのは可能やけど、人々が思うほど簡単やないんや。ちなみに、ほとんどのAI企業は明らかに急速に大金を失っとるわ。
だから、今後数年で、ほとんどのAI企業が潰れると予想しとるわ。巨人たちが残るやろうけどな。巨人たちはずっと多くの資本を投げ込めるからや。アマゾンと協力しとる人、マイクロソフトと協力しとる人、そしてもちろんGoogle自体は、お金が尽きることはないやろ。彼らは基本的にサウジアラビアみたいなもんや。サウジアラビアは砂漠にLINEを建設できるわ。砂漠を貫く巨大な超高層ビルやな。これはフォニックなジェスチャーやけど、Googleは計算能力のピラミッドを建設できるし、それでも世界で最も収益性の高い企業の1つやろう。マイクロソフトは計算能力の巨大なシガレットを建設できるし、それでも非常に成功した企業やろう。
だから、誰が燃やすお金を持っとるかを覚えとくことは重要やけど、燃やすお金を持っとるだけではブレークスルーは生まれへんのや。ブレークスルーは実際には、誰が最高のAI科学者を持っとるかから生まれるんや。そして、わいは本当に科学者を意味しとるんや。ソフトウェアエンジニアやデータサイエストやないんや。知的な卓越性と深い情熱を持ち、マーケティングや社会的圧力に簡単に混乱させられへん人々のことを言っとるんや。
西洋文明には、科学西洋文明には、科学、工学、商業の間に根本的な緊張関係があったんや。商業的な考え方は常に、現在のビジネスプラン、現在のアプローチを話題にするんや。科学はそれを覆すんや。科学は現在のアプローチを疑問視し、否定するんや。だから、企業文化の中でこの2つが対立することがあるのがわかるやろ。
ほとんどの人、非常に知的な人でも、エリート大学に行けば、デフォルトで同調性を訓練されるんや。教育システムの目的は、同調性を訓練することやからな。我々は基本的にプロシアの科学大学を破壊してしまったんや。破壊に1世紀かかったけどな。プロシアの研究大学モデルを作った時、それがアメリカで採用されて、ほとんどの人口に合わせて調整された時、明らかにスケールアップできたんや。
PhD芸術家を保護するように設計されたものが、結局は学位工場になって、必要なキャリアステップになってしまったんや。アメリカだけやなく、ドイツやイギリス、フランス、そして今では中国でもますますそうなっとるんや。社会の人材分配メカニズムが、社会の科学的メカニズムと同じものであるのは矛盾やし、これは西洋文明の根本的な問題やな。我々は大学に代わるものを知らんのや。
なんでAIの文脈で大学の話をしとるかって？ わいが言うたように、AIは良いテストなんや。深く掘り下げなあかんのや。これらのトップAI科学者の多くは、良いコンピューターサイエンス学科を持つ大学から引き抜かれたんやけど、それらは一流大学ですらなかったんや。ハーバード大学出身の優秀なAI科学者を名前を挙げられるか？ PhD取得したとか、そんな感じの経歴があるやつおるか？
面白いことに、カナダの大学が実力以上の成果を上げとるのがわかるな。MITはまあ予想通りやけど。イギリスの大学、フランスの大学...なぜかフランスの数学者はこれに向いとるみたいやな。旧ソ連で訓練を受けた人も同じやな。それは驚くべきことやないんや。現代のモデルの基礎となる数学の多くは、実際にコンピューターが不足した環境で開発されたんや。良いコンピューターがない状況に対処しようとして、より効率的な方法を見つけ出そうとした数学者たちの学問的な趣味として発展したんや。紙の上で作業したんや、大規模な訓練の実行ではなくてな。
この伝統は1990年代と2000年代に、ソ連崩壊後に大きく発展したんやけど、これらの学問的系譜の多くがそこに遡るのは注目に値するな。
ChatGPTのローンチ後、我々は学界からすべての優秀なAI科学者を引き抜いてしまったと思うわ。イリヤ・スツケバーのような、宇宙の本質を真に探求する人は残ってないと思うんや。みんな引き抜かれてしまった。お金が多すぎたんや。イデオロギー的な理由でAIに本質的に興味がなかった数学者もおるけど、基本的にアルツァロウスキーや、その周辺のことで怖がらせられたんや。テレンス・タオもある程度その部類に入るかもしれんな。
これらの数学者は、控えめに言っても、まあまあの進歩を遂げるやろう。結局のところ、AIに対する聖なる恐怖心を持っとて、それが数学の適用対象を変えるなら、非常に優秀なエンジニアにはなれるかもしれんけど、まあまあの科学者にしかならんと思うわ。好奇心こそが、恐怖心ではなく、実際の根本的な深い動機やと思うんや。これが、願望的思考などの様々な興味深い認知的欠陥を持つ、非常に欠陥のある人間の脳が、実際に真理にたどり着く原因になるんや。
これは、誰かがパラダイムを打ち破る可能性のあるAI科学者のリストを作ろうと思えば作れるということやな。100%は無理やけど、90%くらいはリストアップできるやろう。そして、どの企業が最も多くの科学者を抱えとるか、どの企業が製品開発の制約を受けにくいかをチャートにできるんや。
ChatGPTのアプリケーションのブレークスルーが、以前は製品ではなくホワイトペーパーをリリースしとることでバカにされとった企業から出てきたことを思い出してほしいんや。これは忘れられる前に覚えとくべき重要なことやな。OpenAIを非営利組織として構成したことから生まれた企業ドラマだけやなかったんや。彼らは基本的に、見つけられる最高のAI研究者たちに終身在職権を与えたんや。ただホワイトペーパーを発表しとっただけで、一生懸命働いとって、AIが世界を変えるというビジョンに動機付けられとったんや。
文字通り、サム・アルトマンとイーロン・マスクが一緒に働いて、彼らを採用したんや。それが前史にあるんや。初期の従業員にテスラの贈り物を与えて励ましたりもしたんや。それは現在の環境では再現できへんと思うわ。だから、ある意味で衰退しとるんやな。ダリオ・アモデイやイリヤ・スツケバー、そして将来的には他の人々のような主要な人物を見ると、このドリームチームは今や分裂してしまっとるんや。
彼らは多くの人的資本を育成したと思うわ。だから、地球上のすべての人がOpenAIを大成功だと判断する前の初期段階で彼らと一緒に働いとった人々、ソフトウェアエンジニアではなくAI科学者やった人々は、過小評価されとると思うわ。人々はそういう人たちを引き抜こうとすべきやな。わいが言うたように、学界は使い尽くされてもうたんや。科学的思考法ではなく、起業家的思考法やハイプ思考法を持つ人々を生み出し、訓練しとる場所はどこやろか。
ほな、エリックや。スポンサーからのメッセージがあるで。
テック界は比類のないプライバシー保護を求めてブレイブブラウザに目を向けとるけど、ブレイブにはプライベートな広告プラットフォームもあるって知っとった？ ブレイブ広告はファーストパーティターゲティングを提供しとって、初日からクッキーレスなんや。だから、サードパーティのトラッキングクッキーがウェブから消えても、安心できるんや。
今日、何百万もの人々がトラッキングや迷惑行為を避けるためにアドブロッカーを使っとるけど、ブレイブの新しい広告モデルは、ユーザーと広告主のインセンティブを調整しとるんや。ユーザーは広告を見ることで報酬を得られて、それを貯金したり、使ったり、お気に入りのクリエイターに渡したりできるんや。広告主は、侵略的なトラッキングなしでROIを生み出し、ユーザーのプライバシーを尊重することでポイントを獲得するんや。
新しいタブページでの高インパクトな告知や、Brave検索でのキーワードターゲット広告など、ブレイブ検索はあらゆるビジネス目標に対応した多様でプライベートで将来性のある広告フォーマットを提供しとるんや。brave.com/adsで広告の未来に参加してな。ターペンタインを言及すると、最初のキャンペーンが25%オフになるで。
ほな、本題に戻ろか。
正直に言うと、生成AIは今や、Web3が当時そうやったのと同じくらいバズワードになっとると思うわ。基本的にWeb4やな。すべての投資家や大企業、そして実際にブラックロックのバランスシートを救うはずのものや。すべてを合わせると、アメリカには、AI革命以外にソルベンシーを達成する計画がないんや。西洋世界が集団で年間4〜5%の経済成長を達成する唯一の方法やな。
もちろん、AIが約束通りに機能したら、年間4〜5%やなくて、10%か20%の成長になるかもしれんな。本当のシンギュラリタリアンは、我々が人工知能の科学に十分に焦点を当てて、最も深い問題を問い、最も難解な数学に投資することに十分焦点を当てとらんと思っとるんや。
こう考えてみてな。粒子加速器を建設して実験物理学者を雇うのは簡単やけど、理論物理学者を長期間雇って知的発展を保護するのは難しい世界を想像してみてくれ。そんな世界やと、物理学はすぐに壁にぶつかってしまうやろ。人工知能は、フィンテックやムーアの法則なんかよりも、物理学にずっと近いと思うんや。
これがわいのやや異端的な主張や。我々はAI科学を過小評価し、AI計算能力を過大評価してきたんや。AIレースに素早く参入するために巨額の資金を調達することを過大評価し、長期的に、好奇心によってこの理解のフロンティアを押し進めようとする内発的に動機付けられたトップAI人材を育成するプレイを過小評価してきたんや。
これは、1つのAI製品がバイラルになったからやと思うわ。ここでわいの最もスパイシーな意見を言わせてもらうわ。もしOpenAIがChatGPTを手に入れてなかったら、おそらく2、3のUXの決定でChatGPTがバイラルにならなかったら - 正直言うて、それで殺されとった可能性は十分あるんやけど - 専門家や一部のトッププログラマーを熱狂させただけで、一般大衆は無視したやろう。実際には、より多くの理論的進歩を遂げとったと思うわ。皮肉なことに、ドリームチームはまだ一緒におって、ホワイトペーパーに注力し続けとったやろうからな。
この5、6つの異端的な考えを吟味してほしいわ。わいはこのように話す人をほとんど見かけへんからな。わいは全ての議論の風景を調査してきたけど、これらの点を主張する人はほとんどおらへんわ。だから、批判されてもええんや。
ほんま、あんたは10個くらいの話題に触れたな。それぞれが完全な議論になり得るもんや。わいの解釈が正しいとして、いくつか同意できる点があるわ。
わいはいつも「Transformerは歴史の終わりやない」って言うとるんや。我々の人生の大部分で「歴史の終わり」的な雰囲気があって、今はそれから脱却したことを覚えとくことが重要やな。AI界隈 - あんたが言うとるトップの思想家やトップの科学者たちやなくて、広いコミュニティのことやけど - も似たようなことを経験したんやないかな。「Transformerをスケールアップし続けて、それを永遠に続けていけば、変革的な結果が得られる」みたいな。
わい個人的には、それを除外せえへんけど、理論的な進歩がもっと見られると予想しとるわ。おそらく、1兆ドルのTransformer実験を実行することはないやろう。他のもっと良いものが出てくるからな。
拡散モデルが全ての画像を生成しとることを思い出すのは大事やな。Transformerやないんや。Transformerが完全に一般的な知能の基盤やったら、なんで画像生成では拡散よりもずっと劣っとるんやろか。
我々は、異なる知能の定義のカンブリア爆発を目撃しとると思うわ。カンブリア爆発は、数億年前の先史時代の地球で起こったイベントで、突然、多細胞生物の多様性が爆発的に増えたんや。化石記録に見えるんや。
我々の歴史のほとんどの間、人間と動物の知能しか持ってへん我々の歴史のほとんどの間、人間と動物の知能しか持ってへんかったんや。ちょっとだけコンピューターの知能を加えたけど、これは人間や動物の知能とは質的に異なるもんやと思うわ。今や、さらに多くの形態のコンピューター知能を加えたんや。
実際、チューリングマシンは既に人工知能の一形態やったと思うわ。最終的には、知能と呼べるものの周期表みたいなもんができると思うんや。根本的に異なるプロセスで、異なる特性、強み、弱みを持つもんがな。
これは我々にとって驚きになるやろうな。我々は知能を単一のものとして考えることに慣れてるからや。人間の心理測定や認知科学をやると、人間は基本的に一つの超特別なことをやっとるだけやという強い証拠があるからな。
でも、宇宙はそういう風に動いてへんのかもしれへんわ。人間の知能は、宇宙で最初にできた水素原子みたいなもんかもしれへん。でもすぐに星がヘリウムや鉄を作り始めて、超新星が星の核融合では作れへんウランとか重い元素を作り始めるんや。
ほんまに、我々が様々な形態の知能を発見していくにつれて、その強さと不合理な有効性に継続的に驚かされると思うわ。でも同時に、その弱さにも驚いたりショックを受けたりするやろうな。
なんで生成AIやTransformerをループさせたAIエージェントは、支離滅裂になってまうんやろ？なんで目標を追求できへんのやろ？なんで世界に働きかけたり行動したりできへんのやろ？これは驚くべきことやな。20年か30年前の人に、この知能が示す言語行動の能力について教えたら、ロボットに命令を与えてロボットに何かをさせるのは簡単やと思うやろう。簡単やと思うやろうけど、実際にはそうやないんや。
それとも、個人アシスタントについての100社くらいのスタートアップの仮説が、ChatGPTが出てきた5分後にできたんやないか？使えるけど、Calendlyリンクを使うのと同じ感覚で使えるだけやな。人間の秘書と一緒に働くようには使えへんのや。
あんたの指摘は鋭いわ。わいは「カンブリア爆発」という言葉を使うことがあるし、「アーキテクチャの混合の時代」という言葉も使い始めたわ。Transformerの時代の終わりと、新しい時代の始まりを示すためにな。まだほんまに始まったばかりやと思うけどな。
わいのフィードを聞いとる人は知っとると思うけど、わいは状態空間モデルに取り憑かれとるんや。大きな理由は、注意機構と基本的に同等のパフォーマンスを示す最初の新しいコア機構の1つやと見とるからや。でも、あんたが言うたように、異なる強みと弱みがあるんや。それを区別するには、ほんまに細かいレベルまで掘り下げなあかんのや。
大規模に訓練した状態空間モデルとTransformerモデルを高レベルで比較すると、かなり似とるのが面白いわ。質的には、チャットできるし、妥当なメモリを持っとるように見えるんや。でも、ミクロスキルのレベルまで掘り下げると、コインの裏表みたいな、異なる強みと弱みがあるのがわかるんや。
それを考えると、最近出てきとる最もエキサイティングな新しいものの中には、これらのものを統合したハイブリッド構造があるのも驚くことやないな。わいは神経科学の専門家やないけど、解剖学の教科書にある脳の絵を見ると、ある部分が高度に繰り返されとるのがわかるわ。皮質コラムみたいなもんやな。それが主要な部分で、多くの作業をしとるんや。
でも、他にもたくさんの部分があるのも見えるわ。我々は、周期表は良いメンタルモデルやと思うけど、そういう方向に向かっとるんやないかな。これらの異なる専門化された、完全なアーキテクチャやなくてコンポーネントみたいなもんを、たくさん持つことになるやろう。それらを様々な方法で組み合わせられるんや。
話を戻すと、エリックはいつもこういう質問をするから、わいもそうするわ。もし国家政府にアドバイスするとしたら、ハリス大統領があんたのところに来て、「たくさんのハイプがあるけど、明らかに否定できへん進歩もあるわ。物事がどれくらい極端になり得るか、どう考えたらええんやろか」って聞いてきたらどうする？
あんたの言うように、エージェントはまだ準備できてへんし、GPT-4の実装はまだかなり苦労したし、おそらく変革的にはならへんやろう。でもGPT-5の可能性についてたくさんのバズがあって、その後にGPT-6が控えとるわ。細かいところまで立ち入る時間のない人に、妥当な結果の範囲をどう特徴づけるか、あるいは何に備えるべきかをどう説明する？
わいは、計算能力のレースの可能性を念頭に置くべきやと思うわ。でも、計算能力のレースはソフトウェア企業のレースやない。ハードウェアのレースなんや。だから、アメリカがハードウェアレースに参加する能力を保持したいなら、大統領、特に皮肉なことに、もしかしたら前トランプ大統領は既にこのアドバイスを受けとるかもしれへん。
最近、彼は「計算能力のためにエネルギー供給を倍増する必要がある」と公言したんや。「どこでその話を聞いたんや？」って思ったわ。ChatGPTに聞いたとは思えへんし、彼が自分で読んだとも思えへん。ある程度知識のある人が彼に話したに違いないわ。
だから、もしカマラがハリス大統領になったら、こう言うやろうな。半導体に関する産業政策とエネルギーに関する産業政策を追求せなあかん。わいのリバタリアン的な友人が一番同意せんやろうけど、言うわ。政府の行動が必要になるんや。政府が邪魔せんだけやなく、政府がアメリカで計算能力を買うことが必要になるんや。
TSMCでさえ、アメリカでチップ工場を採算が取れるように運営することはできへんのや。どうやってもユニットコストが50%高くなるんや。モリスが公に言うとるわ。TSMCにできへんのなら、インテルにできるわけないやろ。同盟国とも自由貿易をしとるなら、2番目に大きなチップ工場はアメリカにあるかもしれへんけど、最大のものはあらへん。自由市場は提供せえへんのや。
だから、答えは政治的に非常に困難なことをせなあかんのやと思うわ。新しいシリコンバレーを作る必要があるんや。シリコンバレーは元々、シリコンを意味しとったことを思い出してな。ハードウェアを意味しとったんや。
数年前、ワイアード誌に「深センはハードウェアのシリコンバレーや」というタイトルの記事があったんや。わいは心臓が止まりそうになったわ。「あかん、バレーは自分たちがどれだけヤバい状況にあるか全然わかってへん」って思ったんや。
当時、わいの友人はわいをバカにしたんや。わいが「ハードウェアをそこまで徹底的に支配したら、ソフトウェアも簡単に逆行分析できるんや。彼らは自分たちのユニコーンを持つことになるし、自分たちのソフトウェア巨人を持つことになる」って言うたからや。
今や、わいの友人はそれをそんなに奇妙やと思わへんし、わいのクライアントもそう思わへん。我々がTikTokを禁止すべきかどうか議論しとる今となってはな。明らかに中国はソフトウェアのスタートアップを作れるんや。もう誰も疑ってへん。
正直、Baiduは本当にGoogleと同じくらい優秀やわ。3、4年前にやったことだけやなく、自動運転車のようなものでもペースを維持しとる。独自の進歩を同じくらい速く進めとるんや。
結局、ハードウェアのことは難しくなるやろうな。NASAみたいにはできへんからや。NASAの政治経済学は、NASAが50州すべてで何かせなあかんというものや。そうせんと予算を守れへんからな。すべての州に何かを与えなあかん。そうせんと、州がNASAに反対するからや。
でも、それはロケットを作るのに良い方法やないわ。SpaceXは50州すべてに施設を持つ必要はないんや。SpaceXの最大の顧客はもちろん、政府やと思うけど、Starlinkは本当に非常に異なるモデルになるやろうな。
わいは、政治的に困難なことをする必要があると思うわ。おそらく港町やけど、連邦政府が指定した地域を作るんや。カリフォルニア州やなくてもええかもしれへん。カリフォルニア州は実際に扱うのが難しいかもしれへんし、別の州でやりたいかもしれへん。でも、連邦政府の指定が必要やな。
すべての規制を取り除くんや。アリゾナ工場と遅延の話を聞いたことあるやろ？
ほんま、その多くはチップの製造とは何の関係もないものなんや。文字通り、建築基準にどう適合するかという話なんや。「建築基準を気にせずに、できるだけ早くチップ工場を建設したらええやん」って思うわ。そういう考え方が必要になるんや。
アメリカの特別経済区を作って、そこでたくさんの計算能力を買うことを要求するんや。正直、バージニア州のデータセンターの密度を考えると、もしかしたらバージニア州でやるかもしれへん。レトロにして東海岸に置くかもしれへん。バージニア州がそれに協力するかどうかわからへんけど、もしかしたら協力するかもしれへん。
もしかしたら、連邦政府がその1つの州と提携して、そこに完全な、ある程度補助金を出して、ある程度高価なチップ工場のセットアップを作るかもしれへん。そうすれば、ハードウェアレースに勝つ能力を持つことができるんや。
正直に言うと、我々は中国とのハードウェアレースを求めるべきやない。そんなことしたら負けるからや。もし本当に実存的な軍事演習やったら、中国は台湾を破壊できるんや。台湾を占領する必要すらない。台湾を破壊して、チップを積んだ船を出すのを地獄みたいにできるんや。
それでどうするんや？中国本土に侵攻するのか？何をするんや？中国を核攻撃したら、中国も核攻撃し返すやろ。レオポルドのように、この大規模な増強を呼びかけとる人たちに言いたいわ。「いやいや、もっとゆっくりせなあかんで」って。
アメリカが産業レースに勝ちたいなら、まず産業が必要なんや。アメリカの産業はまあまあやけど、アメリカは中国の産業的な対等者やないんや。ドイツの産業的な対等者なんや。
ドイツ経済について言えることすべて、アメリカの産業についても言えるんや。脱工業化が進んでるってな。アメリカはただのドイツやないってだけや。巨大なソフトウェア部門もあるし、金融もあるし、サービス部門もある。ドイツにはあまりないものばっかりや。
だから、これらのGDP数字を見る時、本当にアメリカの製造業が牽引しとるわけやないことを忘れてまうことがあるんや。アメリカの製造業は、オランダやドイツ、韓国、日本の製造業を上回ってへんのや。だからこそ、ASMLはオランダの企業なんや。サムスンが韓国企業で、アメリカ企業やないのもそのせいや。
そういうわけで、地政学的には希望的なメッセージやと思うわ。これは科学的な競争になる可能性があるんや。でも、もし知能爆発の理論が正しくて、ある重要なイベントの後に美しいフィードバックループが起こって、それが単一のシングルトン的な未来をもたらすなら、誰がそれを始めるかが重要になるんや。数年ごとに指数関数的に先に進んで、追いつくのが絶望的になるからな。
その時代のために産業能力を維持せなあかんのや。結局のところ、同盟国との調整は簡単やないからな。フレンドショアリングでも完全には機能せえへんのや。どの大統領に、50州すべてで何かをせなあかんような見せかけの産業政策やなくて、機能的な産業政策を推し進める政治的資本があるのか、わからへんわ。
チップ禁止について少し話したいんやけど、もちろんチップ禁止はアメリカ企業への補助金でもあるんや。補助金って言うとき、文字通り1兆ドルを与えるってことやないけど、まあ、そうしてみるのもええかもしれんな。インフラ法案を覚えとる？あの1兆ドルのインフラ法案で建設された橋を1つでも指摘できる人おるか？1つでもな。1兆ドルのチップ法案を作ったら、もしかしたらいくつかのチップが作られるかもしれんわ。誰にもわからへんけどな。
米中対立には非常にアレルギーがあるわ。この話題については何時間でも話せるやろうけど、簡単に言うと、アメリカは中国との経済競争を受け入れて、地政学的な側面を強調するのをやめるべきやと思うわ。中国はそういう風に考えとるからな。彼らは経済を通じて地政学に勝つと考えとるんや。
中国共産党の文書を見ると、一帯一路について少し触れとるけど、うまくいかんことはわかっとるんや。彼らが本当に望んでるのは経済覇権や。彼らは正統なマルクス主義者やから、面白いことに、生産手段を所有することが世界支配につながると考えたんや。文字通り、すべてのものを作る工場を所有することで、中国が生産手段を所有することになると思ったんや。
彼らは自由市場資本主義を使って、中国が生産手段を所有する段階に到達することに抵抗はなかったんや。これが彼らの地政学理論やと思うわ。彼らは、我々西洋人が考えるような帝国主義的な方法では考えてへんのや。
中国の支配へのアプローチは、周辺に出て行って周辺をすべて征服するというローマ的な帝国の作り方とは違うんや。むしろ、中国を統合して統一し、そして周辺すべてを圧倒して朝貢を引き出すというものや。これが中国の歴史的な帝国モデルなんや。
これらの異なる前提があるんや。中国について言えることはたくさんあるけど、最後のベトナムとの戦争以来、中国が侵略した国を1つでも挙げられるか？もう半世紀以上経っとるんや。最後に併合したのは香港かもしれんけど、実際にはチベットやな。
彼らの視点からすると、チベット、香港、台湾はただ中国の土地を統一しとるだけなんや。だから、経済競争とより賢明な通商政策が、中国について考える正しいアプローチやと思うわ。軍事化したり、国家安全保障の側面を強調するような修辞的なポイントを持つのは、彼らにも軍事能力を構築させる可能性が高いと思うわ。
アメリカは21世紀、今後50年かけて中国を経済的に打ち負かす長期戦に備えるべきやと思うわ。50年かかるんや。中国は5年で崩壊せえへんし、15年で崩壊せえへん。50年かけて中国を経済的に打ち負かし、東アジアではなくアメリカでより多くの高度な技術を製造するようになるんや。
中国に少し深く踏み込む前に、ちょっと引いて聞きたいんやけど、この分析に加えるべき他のグローバルなライブプレイヤーはおると思う？アメリカの状況を見回すと、あんたの一般的な感覚に同意するわ。数十億ドル規模の資金調達をしたAI企業の第二層でさえ、その日は数えられとるように思えるわ。
これは以前はスパイシーな意見やったけど、最近はこういうアクア・ヒアー型の取引が増えてきて、実際にコンセンサスになりつつあるな。トップには5社くらいしか残らへんと思う。どう数えるかにもよるけどな。
科学の卓越性だけを見ると、OpenAI、Anthropic、Googleをトップ3に入れるやろうな。もちろん、彼らは規模を拡大してきたけど、他とは一線を画す知識を持っとるように見えるわ。Metaは間違いなくそのパーティーに乱入してきたけど、トップ層には入れへんな。そしてイーロンの会社は決して無視できへん。xAI、Tesla AI、何であれ、同じカテゴリーに入れるやろうな。
世界を見渡すと、中国を1つの枠として見て、それからヨーロッパのチャンピオンが出てくる可能性もあるな。MistraelAIがおるし、ヨーロッパはヨーロッパのチャンピオンを望んでるかもしれへん。でも、ビジネスをするには少し厳しい環境やし、どうなるかはっきりせえへんな。
インドから誰か出てくるかもしれへんし、他にも思いつかへん人がおるかもしれへん。中国に話を戻す前に、他に世界の舞台で注目すべき人はおるか？
今のところはまだないと思うけど、5年後、10年後、15年後には、強力なインドの巨人が現れると思うわ。インドは独自のソフトウェアエコシステムを発展させる可能性が非常に高いんや。もし最終的にインド企業を西洋企業よりも優遇する道を選んだら、そこに1億か2億のユーザーがおるんや。
これは、中国企業が享受しとるのと同じような初期の囚われ観客やな。実際、ロシアの企業Yandexも同じようなものを楽しんでるんや。Yandexは基本的にロシアのソフトウェアコングロマリットで、西洋のソフトウェア企業がやっとることのほとんどすべてをやっとる。自動運転プログラムも持っとるんや。
彼らはどの意味でもリーダーやないけど、1億人のユーザーというのは本当にそれほど多くないのに、デジタルの壁や規制の壁の後ろにあれば、シリコンバレーよりもずっと少ないお金でシリコンバレーと非常に似たことができることを示しとるんや。シリコンバレーが数百億ドルでやっとることを、数十億ドルでできるんや。
インドの状況も非常に似たようなものになると思うわ。何かが起こるやろうな。ヨーロッパについては、マクロンが降板した後、もっと悲観的になったわ。エマニュエル・マクロンは個人的に人工知能の重要性を確信しとって、シリコンバレーとの個人的なつながりを持っとった。彼はAIを支持して、ドイツの規制当局に反対したんや。
皮肉なことに、フランスの影響力と重みを使って、フランスの外交官たちにAIの規制に反対するよう主張させたんや。フランスの外交官たちがヨーロッパ中を回って規制に反対してる一方で、ベルギーやドイツの人たちが規制を楽しんでるなんて、どれだけヤバいか考えてみてな。
フランスの国家は、パリに人々を採用するために最善を尽くしとったんや。これは賢い戦略やった。ロンドンが欧州連合を離脱したことで、パリはヨーロッパのスタートアップの首都になれたかもしれへんのや。
将来のフランス政府がこれを引き継ぐかもしれへん。ちょっと説明させてな。フランスにはまだ優れた数学教育があるんや。まだたくさんのフィールズ賞受賞者がおるしな。そこには生の才能があるんや。だからMITから人を引き抜く必要はない。彼らには自前のミニMITがあるんや。
大都市やから、田舎にいるような感じはせえへんし、フランス政府が邪魔せえへんかったら、規制の面でも問題にならへんのや。理論的には、フランス政府が邪魔せえへんで、税制優遇をしてくれたら、実際にスタートアップをやれるんや。そして、エコシステムの種まきに積極的に投資してくれたらな。
だから、今後4〜5年間は、フランス政府がこの戦略を続ける選択肢は残っとると思うわ。ただ、彼らがそうするかどうかはわからへんな。
ほな、アメリカと中国に話を戻そか。アメリカと中国がなぜこんなに対立しとるのか、あんたがどう理解しとるか、簡単なバージョンを聞かせてほしいわ。わいには良い説明がないんや。
あんたも言うたように、素朴な観察から始めると、我々は地球の反対側にいて、どちらも相手の本土を侵略するつもりはなさそうやし、これらの大きな海の緩衝地帯があるおかげで、お互いに共存できるはずなんや。
それなのに、最近は特にワシントンDCの人たちから「中国がこうや」「中国があああ」って聞こえてくるばっかりや。それがAIの話にも入ってきとって、わいは健全やないと思うんやけど、「できるだけ早く、できるだけ強力な技術を開発せんかったら、未来を中国に譲り渡すことになる」「中国の価値観の下で生きることになる」みたいな話になっとる。
正直、そんなこと言う人に「あんた、中国の価値観ってなんやと思っとんねん」って聞きたくなるわ。そんなんただの中身のない発言やと思うんやけどな。
ともかく、なんでこんな状況になってもうたんやろ？次の質問は、我々は中国とのAI軍拡競争やAI冷戦を避けられるんやろうか？
わいの考えを言うと、チップ禁止令は間違った方向への一歩やと思うわ。中国側から見たら、せいぜい彼らを押さえ込もうとする試みか、最悪の場合、彼らに対して決定的な戦略的優位性を作り出そうとする試みにしか見えへんやろ。どっちにしても、彼らの立場からしたらええ話やないわな。
ほな、戦略的なアドバイザーの立場に戻って、次の大統領にチップ禁止令についてどんなアドバイスをする？
わいは、チップ禁止令は遅すぎて不十分やと思うわ。もし2010年くらいにこれを追求してたら、中国を最先端チップ開発のトラックから外せたかもしれへん。今のチップ禁止令が実際にやっとるのは、中国を制裁することやなくて、中国のチップメーカーに補助金を与えとるんや。
最高のNVIDIAチップが買えへんか、性能を落とした版しか買えへんのやったら、中国のチップ設計者や製造業者は、あんたの最先端版と競争する必要はないんや。ただ性能を落とした版よりちょっとだけ良くすればええだけや。そうすれば、中国の巨大企業や会社が実現可能になるんや。中国にはGPUに対する十分な商業的需要があるからな。
彼らには巨大なテクノロジーエコシステムがあるんや。何十もの巨大企業、Google相当、Amazon相当、OpenAI相当、Anthropic相当、Meta相当の企業があるんや。彼らには独自の需要があるんや。そして中国政府は、GPUの購入をまだ本格的に始めてすらいないんや。もし彼らが望めば、国家の優先事項にできるんや。
我々は基本的に「今も将来も高性能チップを売らへんから、自前の高性能チップを開発するのを国家の優先事項にしてくれや」って宣言したようなもんや。中国政府はその問題に1兆ドルを投じられるくらい裕福なんや。
人々は本当に、アメリカがもう世界で唯一、深刻な問題に1兆ドルを投じられる国やないってことを理解してへんのやと思うわ。中国もこの問題に1兆ドル、あるいは1000億ドル、500億ドルを投じることができるんや。もし彼らが選択すればな。
アメリカの文脈で言うと、アメリカはこれに1兆ドルを投じてへんのや。1000億ドルしか投じてへん。1000億ドル投じて、アリゾナにチップ工場を建てた。一方で、橋を作るのに1兆ドル投じたけど、橋が1本でも建ったかどうかはっきりせえへんのや。
わいはそれがめちゃくちゃ面白いと思うわ。ともかく、ここでの未来は、アメリカの一般的な産業の復活にかかっとると思うわ。エネルギーの側面が正しいアプローチやと思うわ。アメリカのエネルギー生産、特に電力生産を劇的に増やすことを目指すべきやと思うわ。
そうすれば、アメリカでデータセンターを運営する意味が出てくるし、電力を生産するコストの中で労働コストはそれほど大きくないからな。わいはこれが中期的には良い利点になると思うわ。
科学的な問題も面白いと思うわ。わいは、中国に対して科学的な優位性はあると思うけど、技術的な優位性はないと思うわ。もし中国が数年後に科学が発見したり生み出したものを inevitably コピーするとしても、より賢明な科学助成金の面で非常に良いことができると思うわ。
アメリカの利点の1つはDARPAやったし、DARPAがどのように機能するかを良く理解しとることやったんや。もしかしたら、人工知能に特化したDARPAを持つべきかもしれへんな。そして、イデオロギー的に多様な人々でそれを構成せなあかんのや。
EAの人たちだけを雇うんやないで。ジェイソン・メイセンがこのポッドキャストを聞いとるかもしれへんけど、RANDの現CEOや、ホールデン・カーノフスキーや、他のAIの有力者たちは確かにAI DARPAのプログラムディレクターの何人かになれるやろう。でも、全員を任命することは許されへんのや。
大統領へのもう1つのアドバイスは、マダム・プレジデントかミスター・プレジデントかわからへんけど、イデオロギーの多様性を持たなあかんってことや。これはもはや単なる技術やないからな。人々は自分たちの終末論的な宇宙論を追求しとるんや。
マンハッタン計画は50%マルクス主義者でもええかもしれへんけど、50%に抑えとくべきやな。同様に、AI DARPAも50%実効的利他主義者でもええけど、50%に抑えとくべきや。EAを批判するつもりはないけど、彼らは大きな...EAが何であれ、イデオロギー的に50%以上にはしたくないんや。
多くの人がアメリカに口先だけのサービスをするやろうけど、結局、彼らのイデオロギーを見ると...功利主義的なイデオロギーを持っとる人は、常にアメリカの味方ってわけやないんや。ほとんどの場合はアメリカの味方やけど、グローバルに考え、未来の光円錐とかそういうことを考えるべきやとされとる。偶発的に愛国的なだけで、根本的には愛国的やないんや。
愛国心に過度の負担をかけたくないんや。愛国者はバカになれるし、愛国者はしばしば非常に高貴で素晴らしいことをするけど、愛国者を言論の自由に対して武器化するのは非常に簡単なんや。これは多くの国の歴史で何度も起こっとる。
賢明な行動を提案すると、代替案よりも少し国家主義的でないように聞こえるから、国が愚かな行動に乗り出すんや。これが日本帝国が失敗した理由なんや。日本はアメリカに勝てへんかもしれへんし、アメリカの船を爆撃したり破壊したりするべきやないって提案するのは、愛国的すぎたんや。それは愛国的やなかったんや。
そして、その結果は中国の国家主義者が評価したものやなかったと思うわ。歴史の全過程が終わった時にな。
だから、こう言わせてもらうわ。現在、アメリカは非常に慎重なゲームをせなあかんのや。もはや世界の産業大国やないからな。だから、ゲームは科学的で、エネルギーコストが低くて、政府支出がとても賢明なものでなければならへん。
より多くの支出やなくて、より賢明な支出が必要なんや。戦略的に関連のある科学に対してな。なぜなら、現在の科学的資金の使い方は、文字通り武漢生物学研究所に世界のための新しい疫病を作るためのお金を与えとるようなもんやからや。
それはちょっとおかしいやろ。それは部分的にアメリカの資金で行われたんや。今や、それはよく文書化されとる。もうアレックス・ジョーンズやジョー・ローガンの世界を超えて、議会の証言の世界に入っとるんや。
そこにはたくさんの脅威があるんや。わいは挑発的なことを言うたけど、本当の正直な会話をせなあかんからな。反論を歓迎するで。
ほんま、あんたの言うとおりや。「自分たちの家を整理しよう」「原子力発電所を建てて、エネルギーをもっと自由に流れるようにしよう」っていうのは全部素晴らしく聞こえるわ。
チップ禁止令については、あんたと同じように理解しとるわ。我々は彼らに強力な産業を発展させるよう誘っとるんやと。彼らにそれができる能力を疑わへんし、どれくらい時間がかかるかはわからへんけど、いつか彼らは数日で病院を建てたのを見たことがあるからな。彼らのチップ産業を作る能力を過小評価したくないわ。
また、この技術を一緒に開発するか、それとも並行して開発して秘密を持ち合うかという興味深い問題もあるな。それが意味するすべてのことをな。必ずしもあんたがDARPAについて言おうとしたことやないかもしれへんけど、DARPAと言えば、秘密の技術開発を思い浮かべるわ。
その一部は明らかに広い世界に広まっていくけど、一部は秘密のままやな。わいは、アメリカ政府は秘密の技術開発が下手やと思うわ。アメリカの強みは商業部門にあると思うんや。その性質上、公開されとるけど、企業秘密はあるわな。
NVIDIAには企業秘密があるし、TSMCにも企業秘密がある。その意味での秘密は理解できる。でも、最高機密に分類された何かの秘密性...ほら、第二次世界大戦時代のアメリカ政府ならそれをうまくやれたと思うわ。でも、我々は第二次世界大戦時代の政府を相手にしとるわけやないんや。
何かを機密に分類して最高機密にしたら、結果は技術的ブレークスルーにはならへん。ただ監視から隠された無駄遣いになるだけや。機密プロジェクトはあり得るかもしれへん。例えば、人工知能をNSAの仕事にどう正確に応用するか、みたいなんはな。それは秘密にできるやろう。
でも、商業化については、インテルのような機関を通じて情報機関の世界がやってきたことやけど、シリコンバレーやアメリカの商業部門に declassify して渡せる技術は、できるだけ多く渡すべきや。
たとえそれが、今から3、4年後に中国がシリコンバレーに追いつくことになったとしてもな。なぜなら、アメリカの本当の強みは、その膨大な富と科学的進歩の速さにあるからや。何かを秘密にすると、科学的進歩を止めてしまうんや。加速させへんのや。
わいは、チップへのアクセスを拒否しようとすることと、完全には機能せえへんけど、少なくともある程度の非対称性を生み出すかもしれへんこの組み合わせを心配しとるわ。中国は「うわ、アメリカが到達できる計算能力の20%しか到達できへんのか」って状況を見てるかもしれへん。
それに、アメリカには秘密の軍事科学プログラムがあって、我々にはそれがほとんどないかもしれへん。もちろん、彼らはそれを完璧にハッキングするかもしれへんけどな。誰にもわからへん。でも、仮に彼らも本当に、学べない秘密があると心配してるとしたら、それが彼らを全く異なる技術の道筋に進ませる可能性があると心配しとるんや。
我々がどうやって軍拡競争に入るのか、それが本当に悪い状況になるのかを考えると、1つの重要な要因は、我々が同じような技術の道筋にいるかどうかやと思うわ。そうすれば、みんなが何に取り組んでるかについて、ある程度共通の理解があるやろ。
逆に、相手側を「よくわからん大きな存在」として見て、そこに我々の恐れを投影して、より危険を冒したり、技術開発をより軍事的にするよう自分たちを動機付けるようになる程度はどうやろか。
歴史的には、常にそうやったんや。冷戦後期にアメリカとソ連が生物兵器開発禁止条約に署名した時でも、両側の科学者たちは「もちろん、今すぐ仕事に取り掛かるべきや。相手側がこの条約を無視して、我々の知らんことをしとるのは明らかやからな」って言われたんや。だから、考えられる最悪の疫病を開発すべきやって。
第二次世界大戦中でも、ロスアラモスの科学者たちがドイツの核研究の状態を大きく過大評価したことが、戦争終結前にプロジェクトを完成させ、日本で使用することを可能にしたんや。
AIの weaponization は troubling やと思うわ。その一部は、科学者たちも他の人と同じで、武器がかっこいいと思って、かっこいい武器を開発したがるからやと思うわ。物理学を武器にする方法を見つけたら、人々は非常に興奮するんや。
これは、我々が種として平和を望みながらも、暴力も望んでしまうという問題の1つやと思うわ。ブレークスルーを開発する動機について、本当に注意深く考えるべきやと思うわ。
人工知能は2つの理由で平和的な技術であるのが最良やと思うわ。まず、文字通り weaponized や悪意のあるAIを開発しようとすると、存在論的リスクや人類の絶滅を方程式に招き入れてしまうんや。おい、スカイネットは映画だけの話やないぞ。今や、ペンタゴンのピッチデッキにもなっとるんや。
ターミネーター映画が描いとることの半分でも実現できたら、半分でもやで、ペンタゴンはすぐに1兆ドルくれるやろうな。スカイネットのピッチデッキみたいなもんや。おそらくうまくいくやろうけど、それは我々が最悪の技術を最初に開発しとるようなもんなんや。
武器の文脈で考えると、安全性を優先せえへんし、ゼロサムや敵対的なゲームに勝つAIを教えることになるんや。兵站や軍事ゲームに勝つAIをな。
人類を敵とみなす敵対的な人工知能を持つことができたら...それはまさにターミネーターのプロットやけど、何十年もAI安全の人々にバカにされてきたんや。でも、軍事世界がAIをどう認識してるかを見るだけで、それが実際にめちゃくちゃヤバいことがわかるんや。
地政学的な対立にしてしまうと、将軍たちはただスカイネットを作ってくれって頼むだけになるんや。ただそれを頼むだけになるんや。スカイネットを作るなよ。かっこいいと思うかもしれへんし、めっちゃ気分ええかもしれへんけど、後悔するで。
オッペンハイマーが爆発の興奮を味わった後で後悔したようにな。これが人間の本性の偽善やけど、そこから成長できることを願うわ。
そういう風にかっこいいと思わんようにしよう。マンハッタン計画を美化せえへんようにしよう。そういうことはやめて、代わりに宇宙の好奇心旺盛な探検家になって、我々が発見しとるこれらの新しい形態の知能の本質は何なのかを理解しようや。
そして、それを我々の経済に応用して、中国経済と競争しようや。誰がより早く豊かになれるかをな。
その考えめっちゃ好きやわ。ちょっと肉付けをさせてもらうと...多分すぐに完全なエピソードを作ることになると思うけど、「weaponized AI」と「non-weaponized AI」の違いが実際に何を意味するのか、具体的に説明したいんや。
最近読んだAI安全性の提案の1つは、AIを訓練する際に、一般的に損失関数を持つんやけど、その中に自己と他者の区別を最小化するという要素を加えるっていうもんやった。AIが自分自身に言及する時と他人に言及する時で、同じ内部状態を持つようにしようっていう考えなんや。
これはまだ初期の提案やけど、AIが自分自身に言及する時と他人に言及する時で、これらの概念の表現に違いを持つ必要はないという多くのシナリオを考え出したんや。そして、この違いを最小化しようとしとるんや。
非常に単純な強化学習のシナリオで、この技術を適用すると、他のエージェントを欺くエージェントが現れるか、欺かないエージェントが現れるかの違いを示すことができたんや。
これは、AIを作る際に「クンバヤ」的な、すべては一つ、我々は皆繁栄を共有してるんやっていう考え方を持たせる最良のアイデアの1つやと思うわ。でも、もちろんAIの目的が戦場で味方と敵を区別することやったら、これは本当に問題になるやろうな。少なくとも、これらのことは非常に相容れないように見えるわ。
我々はまだ本当に初期段階にいると思うわ。これらのものを動作させただけで、「すべてにTransformerを使う」時代が終わったところなんや。様々な異なるコンポーネントを使って多くの異なるアーキテクチャを作る時代にやっと入ったところやし、これらのことについてまだあまりわかってへんのや。
でも、友と敵を区別して、敵を殺すことに最適化することもできるし、もっと時間をかけて創造的になって、自己と他者の区別を最小化するようなこともできるんや。後者の方がずっと良いアイデアやと思うし、その道を進んでいってほしいわ。
レオポルドのプランについて、サムのプランを説明してもらえへんかな。
簡単に言うと、レオポルドのプランは、当面の間、できる限り中国を押さえ込むべきやというもんや。我々には数年のリードがあるから、防御を固めて、国家安全保障機関とAIラボを何らかの官民融合パートナーシップに組み込むべきやと。そうすれば、中国からすべての秘密を守れるし、チップも拒否できる。
そして、我々は善玉やから、このリードを使って当然アラインメント問題を解決するんや。詳細は後で埋めるけどな。いったんそれができたら、決定的な戦略的優位性を持って中国に接近できる。そして、再び我々は善玉やから、利益共有の申し出とともに中国に接近できるんや。
そうすれば、アメリカの覇権とアメリカの西洋文明の価値観を維持できる。中国はその時点で、その取引を受け入れる方がマシやと認識するやろう。他にどんな選択肢があるんや？我々は超知能を持つことになるんやからな。
あんたはこれに代わる構想として、今後何年かのAIに関するリーダーシップをどう考えとる？それと対比させてどんなプランを持っとる？
プランの最後から始めて逆向きに考えていこう。アメリカはこの種の利益共有を信頼できる形で提供することはできへんのや。アメリカは第二次世界大戦後、ドイツと日本の経済再建を許したけど、それはソ連の封じ込めに関心があったからやった。ソ連の脅威がなかったら、おそらく1946年にドイツは脱工業化されとったやろう。2024年やなくてな。
ちなみに、これは部分的にアメリカのせいでもあるんや。ノードストリームの破壊を通じてな。アメリカがやったことは圧倒的に明らかになってきたわ。ただ言うておくわ。
だから、その申し出は信頼できる形でできへんし、中国は受け入れへんやろう。
その前のステップ、アラインメントを解決するっていうのは...「我々」って誰や？アラインメントが一貫した問題やと仮定して、それを正確に科学的に理解し、それに沿って合理的な官僚的な委員会主導の決定を下すような、アメリカ政府のどんな制度的または政治的な力が存在するんや？
もちろん、AIの慈悲深い独裁者を任命すれば...それはつまり、前提として、アメリカの慈悲深い独裁者であり、地球の慈悲深い独裁者ってことやな。そうなったら、アメリカの自由を愛する価値観はどうなるんや？もしかしたら、それが本当の収束なのかもしれへんな。
そして、その前のステップ、この種の「hardening」...アメリカの技術スタックを中国に対して本当に安全にする唯一の方法は、アメリカ市民に対しても安全にすることなんや。
オープンなデジタル社会、創造的なデジタル社会というアイデアは...オープンソースの話とか、重みをオープンソース化する話はあるけど、デジタル革命によって起こるはずやった社会革命のビジョンは、この時点でもうめちゃくちゃ失われとると思うわ。
我々はみんな閉じたインターネットが欲しいんや。監視されたインターネットが欲しいんや。検閲されたインターネットが欲しいんや。それが必要になるんや。AIのリークを削除するんか？リークは起こるやろう。AIのエドワード・スノーデンが現れるやろう。
西洋のインターネットからそれを削除するのに、AIを使ってすべての事例や言及を探し出すんか？我々の問題は、オープンソース、オープンアクセス、市民参加のビジョンを持たへんインターネットは...それを捨てたら、まずEUのようになって、そして最悪の場合、中国のようになってしまうんや。
わいはこれについて記事を書いたことがあるんやけど、残念ながらこの記事は的中してもうた。「中央集権的なインターネットは避けられへん」っていう記事やった。例えば、ソーシャルメディアの検閲がエスカレートしていく傾向の唯一の中断は...ちなみに、これはウィキリークスなどによって文書化されとるんやけど、アメリカ政府の様々な部分が「おいおい、ええソフトウェア独占持っとるな。誰かが反トラスト法を適用したらどうなるか」って言うてるんや。
「このソーシャルメディアの投稿を削除できるか」「このアレックス・ジョーンズって奴の銀行口座を閉鎖できるか。こいつ問題やで」って。覚えとる？一日で主要なソーシャルメディアネットワークすべてが彼のプラットフォームを削除することを決めたんや。わいはアレックス・ジョーンズが好きやないけど、それはインターネットの自由の状態に対する赤信号やったはずや。
オープンソースのビジョンを捨てたら...新しいインターネットのビジョンを開発することには前向きやけど、我々自身の種類のデジタル全体主義に向かってゆっくりと歩いてるふりをするのはやめようや。
中国との比較をする時、それは警告なんや。称賛やないんや。アメリカを称賛しとるわけやないんや。アメリカのインターネットが毎年、中国のインターネットにどんどん近づいてるって言うとるんや。
別の言い方をすると、今日のアメリカで社会的にタブーな政治的トピックについて率直に話したら、中国と同じくらいビジネスが困るんや。おそらく唯一の違いは、あんた個人が逮捕されへんってことやけど、ただ雇用不可能になるだけや。そして、もしかしたら情報機関の監視リストに載せられるかもしれへん。
これは、多くの具体的で文書化されたアメリカ市民の事例で起こっとるんや。憲法違反の方法で、是正されるべき方法でな。
だからちょっとそのことについて話すわ。民間のインフラがオープンに構築されとる限り、hardening はできへんのや。インフラを固めることには前向きやけど、少なくとも軍事面では、アクセスできんようにすべきやな。
でも、商業面は基本的にオープンでなければ、構造的に独裁的になってまうんや。だから、その針をどう通すかを考えなあかんのや。我々の経済、社会、政治、コミュニケーションの基盤レイヤーにどんなセキュリティを持たせるべきか、そしてどうやってそれを実現できるかをな。
多くの人が多くの意見の相違を持っとることはわかっとるけど、ここで広く話しとるのは、我々の思考のツールを提供する企業の制度的なインセンティブについてや。この時点で、個人として我々は認知的にアウトソーシングしとるんや。多くのことを企業にアウトソーシングしとるんや。
既に存在するよりも密接な企業と政府のパートナーシップを推し進めるのは極めて危険やと思うわ。だって、そうなったら誰がこれらの組織と政府が違法な方法で独裁的になることを現実政治的に抑制するんや？
ただ「それは違法や、そんなことできへん」って言うだけじゃあかんのや。法律は力によって裏付けられなあかんのや。通常、法律は異なる力を持つアクター間のバランスによって裏付けられとる。法律はそれらの間の運用プロトコルみたいなもんやな。
だから、デジタル空間の著しい中央集権化によって法の支配が破壊される可能性があるんや。実際、我々はこれをカナダで見たんや。カナダでは、トラック運転手の反乱に50ドル寄付したら、銀行口座が閉鎖されたんや。あんたの取引が追跡されて、銀行口座がキャンセルされたんや。
これは、中国がやったって聞いたことがないレベルの独裁やで。中国が何十万人もの人々を投獄したって聞いたことはあるけど、法輪功か何かに寄付したすべての小口の寄付者を見つけるために個々の銀行取引を追跡したって聞いたことはないわ。中国がそんなことをしたって聞いたことないけど、カナダがやったって聞いたんや。
だから、西洋の全体主義にあまりにも頻繁に目をつぶりすぎとると思うわ。中国の全体主義の方が悪いけど、それで競争すべきやないんや。
ちょっと脱線してもうたな。プランの初期段階に戻ろう。中国の台頭を防ぐことはできへんと思うわ。おそらくAIのタイムラインについて意見が違うんやと思う。もしレオポルドが初期段階で言うとったように、中国を遅らせようとすべきやと思うなら、超知能やこのAGIの意味でのものが5年後に来ると思っとるんやろう。
そうなら、それは理にかなっとるかもしれへん。でも、20年後や200年後やと思うなら、全然意味がないんや。わいは5年後やとは思ってへん。誰とでも賭けてもええわ、5年後やないって。
だからこそ、中国との地政学的競争をエスカレートさせるべきやないと思うんや。代わりに、重商主義的な通商政策を追求すべきやと思う。アメリカの部門とアメリカ経済を発展させるという観点から考えるべきやし、その言葉でそれを正当化すべきやと思う。
世界の経済的なパイを分け合うことについて、中国との一連の譲歩と取引の交渉であるべきなんや。光円錐を分け合うことについての一連の譲歩と取引の交渉であるべきやないんや。そうすると、間違った種類のロジックを招き、間違った種類の官僚的なインセンティブを招くんや。
まるで、これらの人々が官僚制がどのように機能するかを見たことがないかのようやな。大企業環境はおろか、政府環境でもな。極端に慎重にせなあかんのや。最初の誤った方向に向かった人工知能は、おそらく官僚制やったんや。本当に慎重にプロンプトエンジニアリングせなあかんのやで。
詩的やな、気に入ったわ。オープンソースの役割をこの状況でどう理解しとるか、どう思う？少なくとも現時点では、他のことの中でも、取り消しのきかない利益共有の提案みたいなもんやと思うんやけど。
それから、もし我々がより強力なAIをどんどん見続けて、実際にこれは危険になり始めとるなって感じ始めたら、どんな先例を振り返るべきか、あるいはグローバルな調整と技術開発の抑制をどうやって設定すべきかについて、あんたが見るフレームワークはあるか？
もう1つは、ソブリンAIについてや。これは将来のために取っておこうと思うけど、もしあんたが我々が話してきた2つ以外の100以上の国の1つやったら、「我々は自前のモデルを持つべきや」とか「Metaからベースモデルを取って、我々の官僚的な情報で訓練すべきや」みたいな考え方があるんや。あんたはそれに価値があると思うか？
最後の質問は個人的な視点からや。あんたは今日、個人的な仕事でどの程度生成AIを使っとるか、そしてもしあるなら、どんな価値を得とるか？
あんたはそれを選んでもええし、次回に持ち越してもええで。
わいは答えるわ。時々チェックして、今どうなっとるか見るために生成AIを使うんやけど、わいのワークフローの大きな部分にはなってへんな。usually、分野の一般的な考え方やコンセンサスを提供してくれるだけやからな。
わいの仕事のほとんどは、経済的、政治的、あるいは産業のコンセンサスが間違っとるか何かを見落としとる部分を見つけることやからな。ある意味、高校生のインターンはまだ役に立たへんわ。ハーバードのインターンが提供できるようになったら、もう一度チェックしてみるかもしれへんな。
正直に言うと、あんたと私の間では、ハーバードのインターンもそれほど役に立たへんのやけどな。研究をしとるなら、もっと選り好みせなあかんのや。だから、まだ新しい社会科学の研究には役立たへんと思うわ。そのせいで使ってへんのや。
文体的には、時々わいと同じくらいうまく言葉にしてくれることもあるんやけど、問題は認識可能な方法でそうするってことや。だから、個人的な文章でも使えへんのや。わいの声を本当に再現できへんからな。
わいが時々やる仕事の1つ、わいが着る帽子の1つは、他の人々の文章の編集者やねん。ポーン・マガジンの編集委員会にも座っとるんやけど、彼らがAIを使うとすぐにわかるんや。ほとんどの場合、文章を悪くしてまうんや。
視覚的な意味でのいわゆる「AIスロップ」に人々が敏感になったのと同じように、AIが書いたように聞こえる文章を読むことに人々が敏感になってきたからな。実際、人々がこのテキストがどうやって生成されたのか混乱せんように、わい自身のスタイルを少し変えなあかんかったんや。
だから、すべてのホワイトカラーの仕事に役立つわけやないんや。全然そんなことないわ。おそらく良いスケジュール変更のメールは書けるやろうな。それくらいのレベルやと思う。もしGoogleが機能を作って、わいのインボックスのUIを改善したり、提案されるテキストをちょっと良くしたりしたら、もしかしたらわいのワークフローに組み込むかもしれへんな。でも、まだそこまでやないわ。
利用可能な知能を使いこなせてへんみたいやな。まあ、低グレードやからな。
我々はそれを注意深く見守り続けるわ。いくつかのアイデアをオフラインで共有させてもらうかもしれへんな。わいは今、最新のモデルをわいのように書くようにファインチューニングする作業をしとるんや。まだこのプロジェクトを完了してへんから、どれくらいうまくいくかわからへんけど、
以前の世代で試したファインチューニングではうまくいかへんかったけど、能力に注目すべき改善があったんや。おそらく最も重要なのはコンテキストウィンドウやな。ファインチューニングでわいのスタイルをうまく捉えられることがわかったんやけど、事実を学べへんかったんや。
まだユニークなアイデアや理論を学べへんかったんや。おそらく、より大きなコンテキストウィンドウがあれば、それが可能になるかもしれへんな。あかん、わいもまだ完璧にできてへんわ。元のアイデアの核心部分はまだ自分で与えなあかんと思うで。現世代では、わいの代わりにはならへんと思うわ。でも、そのうちわかるやろ。絶対教えたるわ。
今のところは、アイデアの核心部分を与えて、たくさんの背景情報も与えて、わいのスタイルで訓練すれば、面白い出力が得られるんやないかと期待しとるんや。それが実現し始めたら教えたるわ。これが今のわいのAI obsession やな。
もう行かなあかんのはわかっとるけど、ほんまに素晴らしい話やった。考えるべき興味深いことがたくさんあったわ。ソブリンAIについてはまた今度話そうな。アメリカと中国の...対立とは言いたくないんやけど、建設的な競争と呼ぼうか。これについては間違いなくもっと展開があるやろうし、継続的な戦略分析の非常に活発な分野になると思うわ。
今のところは、ビスマーク分析の創設者サム・オーブア、認知革命の一員になってくれてありがとう。また今度な。
ありがとう、いつも通り素晴らしい仕事やったで。
ライブプレイヤーズを聴いてくれてありがとう。購読して、レビューを残してくれたら嬉しいわ。そして、より厳密な主要な個人、機関、産業の分析については、サムの素晴らしいニュースレター、ビスマーク・ブリーフをチェックしてな。
ライブプレイヤーズは、ターペンタインのプロダクションや。ノア・スミスのエコン102やモーメント・オブ・ゼンを提供しとるポッドキャストネットワークやで。
みんな、エリックやで。ターペンタインでは、テック業界の人々によるテック業界の人々のための初のメディアアウトレットを構築しとるんや。今聴いとるこの番組を提供しとるネットワークやで。
AIや投資のクラスターから、最も興味深い思想家、創業者、投資家、インフルエンサーとの対話を通じてテック業界の議論を牽引する番組まで、様々なトピックや業界にわたる人気番組を提供しとるんや。ノア・スミスのエコン102みたいなな。
毎週新しい番組をローンチしとるし、業界をリードするスポンサーを探しとるんや。もしそれがあんたやあんたの会社やと思うなら、erik@turpentine.co にメールしてくれ。一緒にパートナーを組もうや。