見出し画像

ザッカーバーグの『焦土戦略』的LLaMA AI戦略(インタビューの分析)

私たちは、最終的に何億何十億もの異なるAIエージェントが存在する世界に生きることになると思います。おそらく世界の人口よりも多くのAIエージェントが存在するでしょう。さて、LLaMA 3.1が今日リリースされました。それに伴い、メタが人工知能についてどのように考えているかについて、多くの追加情報が公開されています。マーク・ザッカーバーグが手紙を書きましたが、それについても後ほど取り上げます。彼はまた、ロワン・チャンゲンと30分以上のインタビューも行いました。そこで今日は、一緒にその動画を見て、私の考えを皆さんにお伝えしたいと思います。
ここで一言言わせていただきたいのですが、マーク・ザッカーバーグの現在の雰囲気が大好きです。彼の変身は、今後数十年にわたってビジネススクールで研究されることになるでしょう。では、続けて見ていきましょう。
まず最初のセクションでは、彼がLLaMA 3.1のローンチについて紹介し、自身の考えを述べます。では、見てみましょう。
「まず、本日の大きな発表は、LLaMA 3.1です。3つのモデルをリリースしています。初めて45億パラメータのモデルをリリースしました。これは間違いなく、誰かがオープンソースで公開した中で最も洗練されたモデルです。実際、いくつかの主要な非公開モデルと競合し、一部の分野では先行しているほどです。特に、コミュニティポリシーを変更し、教師モデルとして使用したり、蒸留や微調整を行ったり、基本的に他のモデルを作成したりすることを許可したので、人々がこれでどんなことをするのか楽しみです。」
ここで一度止めなければなりません。彼はたった数言葉でたくさんのことを言いました。まず、45億パラメータのモデルは素晴らしいものです。他のオープンソースモデルよりもはるかに洗練されています。非公開のフロンティアモデルと直接競合し、フロンティアと見なすことができる初めてのオープンソースモデルです。これはすべて、OpenAIやその他の非公開企業への直接的な挑戦です。
彼は、試行済みの戦略を採用しています。マイクロソフトが長年行ってきたことです。基本的に、技術競争で後れを取っている場合、採用する戦略は「焦土戦略」と呼ばれます。その技術を複製するために多額の投資を行い、それを無料でリリースします。なぜなら、その時点でそれは普及し、商品化されるからです。非公開のフロンティアモデルに高額な料金を払う理由がなくなり、モデルを完全に制御でき、わずかな費用で利用できるようになります。
さらに、競争が大幅に増加します。grock grqのような企業が、この大規模モデルを取り込み、OpenAIが実行できる速度よりも桁違いに高速な推論速度で実行できるようになります。
ちなみに、OpenAIが負けたとは思っていません。サム・オルトマンは優れた経営者であり、おそらくこれが彼らがGPT-4 Miniをリリースした理由でしょう。GPT-4と同等の性能を持ちながら、わずかな価格で、はるかに高速なモデルです。彼らはメッセージを受け取っています。壁に書かれた文字を見ています。モデルは商品化されつつあり、私は最近、OpenAIが独自のAIチップを開発しているという記事を読みました。これについては別の動画で話します。
多くの差別化は、本当にそこから来ています。これがgrockが特別な理由です。彼らの独自のチップデザインにより、信じられないほど高速に推論を実行できるからです。OpenAIも同じことを達成したいと考えています。特にこのリリース以降、モデルは商品になったからです。
では、続けて見ていきましょう。
「さらに、405億パラメータモデルを蒸留して、サイズに応じて最新かつ先進的な70億および8億パラメータモデルを作成しました。」
実は、発表を読んだ後でもこのことに気づいていませんでした。405億パラメータモデルを蒸留して、LLaMA 3.1バージョンの8億および70億パラメータモデルを作成したのです。最初にリリースされたLLaMA 3バージョンの8億および70億パラメータモデルが独立したモデルで、今回は完全に新しいモデルなのかどうか、実はよくわかりません。もし知っている人がいれば、コメントで教えてください。
「そうですね、一歩下がって考えてみると、これはオープンソースAIにとって大きな瞬間だと思います。しばらく考えていたのですが、オープンソースAIが業界標準になると思っていました。基本的にLinuxが辿った道筋を辿ると考えていました。Linuxが普及する前は、多くの企業が独自のクローズドなUnixバージョンを持っていました。当時は、これほど洗練されたものがオープンソースプロジェクトとして行われたことはなく、人々は閉鎖的な開発モデルが唯一の方法だと考えていました。
最初、Linuxは安価で開発者がカスタマイズできるという理由で足場を固めました。そして時間が経つにつれて、エコシステムが構築され、より多くの精査を受けるようになり、実際にはより安全で高度なものになりました。基本的に、より多くのパートナーがより多くの機能を構築し、Linuxの場合はより多くのドライバーなどを構築しました。これにより、クローズドソースのUnixよりも多くの機能を持つようになりました。
LLaMA 3.1のこの瞬間は、そのような転換点だと思います。LLaMAには、オープンソースAI標準になる機会があります。オープンソースがAIの業界標準になる機会があるのです。パフォーマンスでまだ先行していない部分でも、コストとカスタマイズ性、モデルを取得して微調整し、望むことをすべて行う能力において先行しています。」
彼はまた、私が前のコメントで言及するのを忘れていたことを述べました。ライセンスを変更し、405億パラメータモデルで、そのモデルから合成データを作成して小規模モデルを訓練することを許可したのです。これは大きな変更であり、エコシステムにとって非常に価値があります。
これはNVIDIAがNEONモデルで行ったことです。彼らは巨大なモデルを訓練し、それを使って小規模モデルを訓練するためのデータを生成する許可を与えました。これにより、多くの企業、多くのAIモデル企業が、ユースケースに応じて独自のバージョンのモデルを作成できるようになります。これは本当にクールな戦略であり、メタからのものとして本当に評価しています。
「これらは本当に大きな利点だと思います。開発者がこれを活用し、私たちはこのパートナーエコシステムの構築に焦点を当てています。このモデルの周りに構築される様々な機能があるでしょう。」
「そうですね、これは別のことを意味します。彼らはこのモデルを無料でリリースしただけでなく、エコシステムを制御したいのです。標準を定義し、エコシステムを構築したいのです。明らかにメタには金銭的な動機があります。純粋に善意からこのモデルを無料でリリースしたわけではありません。しかし、それでも皆が勝者になれるのです。」
「また、grockのような企業もいます。彼らは本当に興味深い超低レイテンシーの推論に取り組んでいます。彼らの手にこれを渡すのが本当に楽しみです。彼らはローンチのために何かを構築しています。」
明らかに、これは数日前、あるいはそれ以上前に撮影されたものです。grockは初日からすでに利用可能です。多くの人が試そうとしているため、私はまだ使用できていません。基本的に、彼らの帯域幅が制限されていると言っています。しかし、できるだけ早く試してみたいと思います。
次に、ロワンはマーク・ザッカーバーグに、オープンソースAIの影響について尋ねます。これは、明らかにOpenAIのような非公開企業とメタAIのようなオープンソース企業の間で激しい議論が行われてきました。マーク・ザッカーバーグ、ヤン・ルカンなどです。
オープンソースアプローチについて私が本当に評価しているのは、GoogleやOpenAIのような企業からの規制の捕捉を hopefully防ぐことです。彼らは規制を望んでいます。新しいAI企業、新しい革新的なフロンティアAIモデルを立ち上げるためのハードルをできるだけ高くしたいのです。なぜなら、彼らはすでにその側にいるからです。他の誰も彼らのパーティーに参加してほしくないのです。
「私の見解では、オープンソースは、ポジティブなAIの未来を実現するための非常に重要な要素です。AIがもたらす素晴らしいことがたくさんあります。生産性の向上や人々の創造性の向上などです。希望的には、研究などにも役立つでしょう。しかし、オープンソースは、これが誰もが恩恵を受け、誰もがアクセスできるようにするための重要な部分だと思います。少数の大企業にロックインされないようにするためです。
同時に、オープンソースが最終的により安全で安心な方法でAIを開発することになると実際に考えています。今日、オープンソースは安全かどうかという議論がありますが、私は異なる立場を取っています。安全だと考えているだけでなく、閉鎖的な開発の代替案よりも安全だと考えています。」
ここで少し彼の話を遮りますが、彼がどこに向かっているのかすでに知っています。以前の動画でも話したことで、彼も少し前に話していました。基本的に、何かをオープンソース化すると、多様なスキル、多様な視点、そしてはるかに大きな才能のプールを持つすべての人が、コードの1行1行、データの1片1片、どのように動作しているのか、なぜ特定のことを行っているのかを見て調べることができます。閉鎖的なシステムよりもはるかにシステムを堅牢化することができます。
そうでない例もありますし、そうである例もあります。しかし、一般的に言えば、オープンソースは閉鎖的なシステムよりも安全な傾向があると思います。同意する人はコメントで教えてください。これが論争の的になる発言なのかどうかさえわかりません。
「様々な種類の害があります。一つのタイプだけを話すことはできません。意図しない害があります。システムが何らかの形で制御不能になり、人々が意図しなかったことが起こります。そして意図的な害があります。悪意のある行為者がシステムを悪用しようとする場合です。
意図しない害については、ちなみに、AIが暴走するというほとんどのSFシナリオは、基本的に意図しないものだと指摘する価値があります。オープンソースの方が安全だと実際に考えています。なぜなら、より多くの精査を受け、より透明性が高くなるからです。LLaMA Guardや付属の安全ツールを使用するすべての開発者が、従来のオープンソースソフトウェアと同様に、非常に多くの精査とテスト、圧力をかけることになります。私の推測では、クローズドモデルよりもはるかに早く問題が解決されるでしょう。
だからこそ、オープンソースの安全性に関する議論のほとんどが意図的な害に集中していると思います。オープンで利用可能になっているので、悪意のある行為者がそれを悪用するのをどうやって止めるのかということです。
ここで、問題を基本的に二つに分けて考える必要があります。個人や小規模なグループが何らかの混乱を引き起こそうとする小規模な行為者と、巨大な国家のような非常に洗練された大規模な行為者です。この二つは少し異なる組み合わせになります。」
これは、ヤン・ルカンがレックス・フリードマンとのインタビューで話していたことを思い出させます。彼の言葉を正確には覚えていませんが、基本的に、もし誰もがオープンソースのフロンティアモデルを持っていれば、それは非公開のモデルと同じくらい能力があり、本質的にはAI対AIの戦いになると言いました。悪意のある行為者と善意の行為者がAIを持っている場合、より優れたAIを持つ側が勝ちます。両者のAIの能力が同等か、あるいは5%程度しか差がない場合、それはほぼ無効になり、一方のAIが善意の行為者を悪意のある行為者のAIから守ることになります。
私たちが話していない事例で、実際にはあり得ないと思うのは、巨大なリソースを持つ悪意のある行為者が突然、誰も考えもしなかったような大幅な能力の向上を持つAIを手に入れる場合です。例えば、突然、悪意のある行為者のAIが善意の行為者のAIよりも100%優れている場合、その時点でおそらく問題が発生するでしょう。しかし、私が言ったように、人工知能のイノベーションの反復的な性質のため、これは不可能だと信じています。能力の向上に大きなステップ関数はありません。
「小規模な行為者については、私の見解は以下の通りです。私たちがソーシャルネットワークを管理する方法は、悪意のある行為者が私たちのネットワークで悪いことをしようとしているのに対して、多くの場合、彼らはAIシステムを展開してそれを行っています。私たちがそれを止め、特定する方法は、より洗練されたAIシステムを持ち、より多くの計算能力を持って彼らが何をしているかを見つけることです。
これは実際に、政府や法執行機関が社会で秩序を維持する方法とかなり似ていると思います。そうですね、犯罪を犯す可能性のある無法者がたくさんいますが、一般的に警察力や軍隊の方がはるかに資金が豊富で、より多くのリソースを持っています。これは基本的にここでも同じだと思います。実際、オープンソースが広く展開されることを望んでいます。閉鎖的な場合、それが起こらないリスクがあると思いますが、オープンな場合、多くのリソースを持つ大きな機関がこれらのシステムを展開できるようになり、悪意のある行為者をチェックできると思います。
次に、中国のような大規模で洗練された行為者の問題に行き着きます。時々議論されるのは、本当に高度なモデルをオープンソース化する場合、それが中国に渡らないようにするにはどうすればいいのか、彼らがそれを私たちに対して使わないようにするにはどうすればいいのかということです。これは時々、開発をロックダウンすべきだという議論の根拠になることがあります。しかし、それはいくつかの点を見逃していると思います。
一つは、これがすべてうまくいくためには、まず米国が優位性を持っていなければならないということです。西側の優位性は基本的に、オープンで分散化されたイノベーションです。それは単に少数の大企業や研究所だけではなく、スタートアップや大学、個人のハッカーたちが物事に取り組んでいるのです。彼らは企業の一部でさえありません。これが大きな部分です。そしてそれを遮断したくありません。もしそうしてしまえば、私たちがそもそもリードしない可能性を高めてしまいます。
そして、問題に行き着きます。中国、あるいは中国でなくても、どの政府でも、モデルを盗むリスクや産業スパイのリスクがあります。多くのモデルはハードドライブに収まり、すぐにバックパックに入れて持ち出せます。私たちは、非常に洗練された努力に対して、これらのモデルを長期的に守ることができる可能性について現実的である必要があると思います。」
レオポルド・アッシェンブレナーの状況認識に関する論文についての私のビデオを覚えているでしょうか。彼は具体的に中国を指摘していますが、ここでは大規模な国家主体を使いましょう。非公開モデルの重みを無期限に保護できる可能性は、私の考えでは本質的にゼロです。
米国企業が中国によってハッキングされ、知的財産を盗まれた回数はいくつあるでしょうか。そして、ここで重要なのは、それが一度起こるだけで十分だということです。セキュリティにわずかな隙があるだけで、モデルの重みを失うことになります。
OpenAIのような民間企業がハッキングされ、モデルの重みが盗まれる可能性を考えると、国家主体がこれらのAIモデルを持つことを前提としましょう。だから、みんながそれを持つようにしましょう。いわゆる「善良な人々」、いわゆる「悪い人々」、彼らすべてが同じ能力を持つようにしましょう。そうすれば、元の発言に戻ります。それは一つのAI対別のAIになるのです。
「私の恐れは、開発をロックダウンしてしまうと、基本的に少数の企業とモデルを盗むことができるすべての敵対者だけがアクセスを持ち、すべてのスタートアップ、すべての大学、すべての個人のハッカーが取り残され、これを行う能力を持たない世界になってしまうことです。
私の見解は、私たちが望むべき現実的な目標は、オープンソースを使って世界で最も先進的で堅牢なエコシステムを開発し、私たちの企業が政府や同盟国の政府と密接に協力して国家安全保障に取り組むことを期待することです。そうすれば、私たちの政府は最新の技術を常に統合し、敵対者に対して6ヶ月か8ヶ月の優位性を持つことができます。
この世界では10年間の永続的な優位性は得られないかもしれませんが、永続的なリードを維持することで、私たちがリードしている状態の方が、他の人々が提唱しているモデルよりも安全だと思います。少数の閉鎖的な研究所があり、開発をロックダウンする場合、そもそもリードする可能性を失うリスクがあります。おそらく他の政府がアクセスを得ているでしょう。これが私の見解です。
意図しない害と意図的な害の両方について、世界中でより均等に繁栄を広げ、より多くの進歩を可能にすることで、基本的に時間とともにオープンソースがリードすることがわかるでしょう。問題は発生するでしょう。それらを軽減する必要があります。すべてを厳密にテストし、政府とも協力しています。これからもそうし続けます。しかし、これが私が今日知っている限りでの見解です。」
次に、マーク・ザッカーバーグはAIの使用による経済的可能性について話し始めます。これは私が非常に興味を持ち、期待していることです。私は楽観主義者の傾向がありますが、悲観的な見方もできます。OpenAIはちょうど、UBIやAIの経済的影響について多くの研究を発表したところです。私はそれを読んで、後続の動画で取り上げる予定です。しかし、今のところ、マーク・ザッカーバーグがこれについて何を言うか見てみましょう。
「AIがどのように開発されるかに関係なく起こるバージョンと、具体的にオープンソースから利益を得るバージョンがあると思います。
AIは、現在開発されている他のどの単一の技術よりも、生産性を向上させ、経済を加速させ、すべての人がより創造的になり、より興味深いものを生み出す能力を持つ可能性があると思います。それはすべて素晴らしいことだと思います。また、科学や医学研究などにも役立つことを願っています。
しかし、今日、最先端のモデルを微調整したり独自に構築したりする能力にアクセスできない人々が多くいます。彼らは基本的に、これらの大規模な研究所が行うことに限定されています。先ほど言ったように、イノベーションに関する私たちの文化の定義的な側面の一つは、大企業だけがそれを行うわけではないということです。多くのスタートアップやハッカー、学者、大学の人々がいます。
これらのすべての人々に、最先端のモデルへのアクセスを提供したいと思います。彼らがその上に構築できるだけでなく、現在の閉鎖的なベンダーで実行できるものだけでなく、調整や小さなモデルへの蒸留ができるようにしたいのです。そうすれば、ラップトップや電話、その他のデバイスで実行できるようになります。これにより、多くの進歩が解き放たれると思います。
また、国ごとに見ることもできます。スタートアップや大学が独自の大規模な基盤モデルを訓練するリソースを持っていないだけでなく、多くの国々がそれを行う能力を持っていないでしょう。なぜなら、近い将来、これらのものを訓練するのに何十億ドルもかかるからです。
異なる国々の起業家や企業が、人々により良くサービスを提供し、より良い仕事をするために使用する能力を持つことは、基本的に世界中のすべての船を持ち上げ、大規模な平等化効果をもたらすと思います。これは本当にポジティブだと思います。」
ここでロワンは、マークに彼の手紙について具体的に尋ねました。別の動画で取り上げる予定ですが、彼は直接アップルの閉鎖的なアプローチを批判しました。ロワンは彼にそれについて詳しく説明し、彼の考えを聞きました。では、聞いてみましょう。
「そこでの私のポイントは、それが自分のものづくりへのアプローチや心理的にものを構築する考え方にどのように影響したかについて、少し哲学的なものです。
実際、彼らがAIにどのようにアプローチするかはわかりません。彼らはいくつかのオープン開発を行い、いくつかの閉鎖的な開発も行っています。ちなみに、私は自分をオープンソースの狂信者とは考えていないことを指摘する価値があると思います。ただ、この場合、オープンモデルが標準になると思いますし、それが世界にとって良いことだと思います。しかし、私たちはオープン開発も閉鎖的な開発も行っています。だから、理解できます。
アップルがAIに関して必ずしも間違った立場にいるとは言っていません。しかし、過去10年から15年を振り返ると、競合他社によって制御されたプラットフォーム上にサービスを構築することは、私たちにとって形成的な経験となりました。様々なインセンティブのために...」
ここで怒りを感じることができます。彼が非常に外交的な言い方をしているのがわかりますが、彼が何年もの間焼かれたことを知っています。モバイル革命の間、本当にすべてを引き継いだ時、彼は競合他社の上にFacebookや他のアプリポートフォリオを構築しなければなりませんでした。彼はその間違いを繰り返したくないのです。
それはまた、彼らがメタバースに大きく投資した理由でもあるでしょう。彼はVR革命が次のコンピューティングプラットフォームになると予見し、それを大きく先行したかったのです。そして彼はそうしました。それが彼が考えたほど早く、あるいはまったく実現しなかったとしても、AIは明らかにその方向に向かっています。そして彼はプラットフォームになりたいのです。メタがプラットフォームになりたいのです。
「明らかに、私たちができることを制限するための様々なルールを適用しています。彼らにはすべての税金があります。ある時点で、私たちはいくつかの分析を行い、これらの恣意的なルールがなければ、はるかに利益が出ると考えています。他の多くのビジネスも同様でしょう。
しかし、正直なところ、お金の部分は、イライラしますが、私にとって最大の問題ではありません。あなたのコミュニティにとって良いと信じる機能を構築し、そしてそれをリリースできないと言われることは、少し魂を押しつぶすような感じがします。なぜなら、ある企業があなたを箱に入れて、より良く競争したいからです。」
ザックとは遊ばない方がいいですね。彼は4次元チェスで考えています。
「現時点でのAIに関する私の懸念は、実際にはアップルではありません。他の企業とそれがどのように進化するかについてより懸念しています。ある程度、彼らが悪い人々だとさえ言っているわけではありません。システムには物理学と誘因構造があり、閉鎖的なシステムを構築すると、最終的にはあなたに押し付けるすべての力が働き、物事を抑え込むようになると思います。
ウェブのようにより健全なエコシステムとして開発される方が良いと思います。ただし、より能力が高くなります。モバイルの開発方法のために、閉鎖的なモデルが勝利したので、アップルが本当に最大の恩恵を受けたと思います。アンドロイド端末の方が多いかもしれませんが、アップルはモバイルフォンのほぼすべての利益を得ています。
これには少し最近のバイアスがあると思います。これらは長いサイクルです。iPhoneは2007年に登場したと思いますので、このサイクルはほぼ20年続いています。閉鎖的なモデルが常に勝つわけではないことを忘れやすいです。PCの時代に戻ると、Linuxのアナロジーを使う人が多いので、Windowsが最大限にオープンだとは考えていないかもしれませんが、オペレーティングシステムをデバイスと結合するアップルのアプローチと比較すると、Windowsのアプローチはより開かれたエコシステムでした。そしてそれが勝利しました。
プラットフォームの次の世代に対する私の希望の一部は、AIと拡張現実や仮想現実の分野で私たちが行っている仕事を含めて、メタがオープンなエコシステムを構築する側にいることです。閉鎖的なエコシステムの代替物を構築したいだけではありません。業界を、オープンなエコシステムが実際にリードしている状態に戻したいのです。」
先ほど言ったように、彼がこれを行う動機は明らかに彼が焼かれたからです。これが、彼がこのエコシステムが開発され、長期的に展開される方法を変えようとしている理由です。私はこのアプローチが好きです。これはまた、イーロン・マスクがGrockをオープンソース化することを決めた理由でもあります。彼はOpenAIが閉鎖的なAIになり、彼のお金をたくさん取って、最終的に営利企業に転換したことに苦々しい思いを持っていたからです。
肩に重荷を背負った、少し恨みを持った起業家ほど、イノベーションを推進するものはありません。そして私はそれが大好きです。それをとても楽しみにしています。
さて、ロワンはマーク・ザッカーバーグにLLaMA 4について尋ねます。彼はすでにLLaMA 4を計画していると確信していますが、LLaMA 3.5をリリースしたばかりで、405Bモデルもリリースしたばかりです。ですので、予見可能な将来のすべての努力は、おそらくLLaMA 3、LLaMA 3.1、LLaMA 3.2の反復とイノベーションに向けられるでしょう。彼らは背景でLLaMA 4を調理していると思いますが、それを見るまでにはしばらく時間がかかるでしょう。私の推測では、おそらくGPT-5がリリースされた少し後になると思います。
「ああ、まあ、私たちはLLaMAの3.1を今やっているところです。LLaMA 4について話すのは少し早すぎるかもしれませんが、コンピュートクラスターは設定しています。」
これは面白いと思います。彼は「LLaMA 4について考えるのは少し早すぎるかもしれない」と言っていますが、それに必要なすべてのコンピューティングを持っていると言っています。私はこの新しいバージョンのザックが大好きです。
「データセットを設定し、アーキテクチャがどのようになるかについてある程度の感覚を持っています。そのことについて多くの研究実験を行って最大化しました。なので、LLaMA 4はLLaMA 3の上に大きな飛躍になると思います。もっと進歩できると思います。
これはLLaMAの最初のドットリリースです。マルチモーダルモデルの立ち上げを含め、もっとやりたいことがあります。」
それを待ち望んでいます。それがLLaMA 3 45BとGPT-4の間で最も大きな欠けている能力です。GPT-4は多くの異なるファイル形式を取り込み、画像を含めて解釈することができます。その1つの機能を私はいつも使っています。残念ながら、本当の意味でマルチモーダルなLLaMAモデルはありませんでした。マルチモーダリティを可能にするいくつかの微調整バージョンがありましたが、正直に言って、それらはあまりうまく機能しませんでした。このチャンネルで私がテストしているのを見たことがあると思います。ネイティブのマルチモーダルLLaMA 3.1が待ち遠しいです。
「私たちはそれに関して残念な後退がありましたが、おそらくEU以外のすべての場所でリリースすることになると思います。」
気になっている人のために説明すると、最近、彼らがEUでマルチモーダルAIをリリースしないことが報告されました。これは彼らの規制のためです。これが彼が言及している後退です。
米国や他の許可する国々でリリースされるのを待ち望んでいますが、EUではリリースされません。これがEUが規制を緩和する必要がある理由の1つです。そして希望的には、米国で過剰な規制をしないことを願っています。
「おそらく次の4〜5バージョンのLLaMAになると思います。これらのデータセンターを構築し、その周りの電力を確保し、チップアーキテクチャやネットワークアーキテクチャを整えるには長い準備期間が必要だからです。
そうですね、これは少し答えになっていないかもしれません。一般的な興奮以外は。でも、LLaMA 3、LLaMA 3.1が少なくとも1週間は、私たちが出したものを処理する時間を与えられるべきだと思います。将来について話し始める前にね。」
これを世界に発信します。マーク・ザッカーバーグにインタビューしたいです。もし私がLLaMA 4のローンチの一環として彼にインタビューする1人になれたら、それは素晴らしいことです。もしメタの誰かがこれを見ているなら、私を考慮してください。それを行いたいです。
次に、彼はAGIとエージェントについて話します。LLaMA 3.1のローンチで少し見たことがあります。彼らは独自のエージェントアーキテクチャを定義しているようです。あるいは独自の言語かもしれません。まだ深く掘り下げていませんが、計画しています。マークがAGIについて、特にエージェントについて何を言うか見てみましょう。
「技術的な観点と製品の観点の両方から話すことができますが、これまで主にモデルについて話してきたので、製品から始めましょう。
私たちのビジョンは、1つの単一のAIではなく、多くの異なるAIやAIサービスが存在するべきだということです。これがオープンソースアプローチを形成しています。製品ロードマップにも影響を与えています。
私たちにはMeta AIがあります。Meta AIはかなりうまくいっています。私の目標は、年末までに世界で最も使用されるAIアシスタントにすることでした。その目標に向かって順調に進んでいると思います。おそらく年末の数ヶ月前にその目標を達成するでしょう。」
これは大きな声明です。もし本当なら、Meta AIはChat GPTよりも多くの使用量があることになります。これは私にとって驚きです。なぜなら、AIについて知っている人は誰でもChat GPTについて知っていますが、必ずしもAnthropicのClaudeや他のモデルについて知っているわけではありません。そして多くの人はLLaMAについて聞いたこともありません。
明らかに、Metaには何十億もの組み込みユーザーベースがあるので、それを見るのは興奮します。しかし、彼は具体的にMeta AI製品について話しています。Meta AIと言う時、Chat GPTの競合だけではなく、WhatsApp、Instagram、Facebookなど、各製品でのMeta AIの実装のことも言っていると思います。
「私たちが注力しているのは、すべてのクリエイターとすべての小規模ビジネスに、自分自身のAIエージェントを作成する能力を与えることです。私たちのプラットフォーム上のすべての人が、自分が対話したいAIエージェントを作成できるようにすることです。
考えてみてください。これらは巨大な空間です。世界には何億もの小規模ビジネスがあります。非常に重要なのは、比較的少ない作業で、ビジネスが基本的に数回のタップで、顧客サポート、販売、すべての顧客とのコミュニケーションを行うAIエージェントを立ち上げられるようにすることです。これは何億、おそらく数十億の小規模ビジネスエージェントになるでしょう。
クリエイターも同様です。私たちのプラットフォームでは、2億人以上の人々が自分をクリエイターだと考えています。彼らは基本的に、コミュニティを構築し、コンテンツを発信するために私たちのプラットフォームを使用しています。それが彼らの仕事の一部だと感じています。彼らには基本的な問題があります。それは、コミュニティと関わる時間が十分にないということです。同様に、彼らのコミュニティも一般的に彼らの時間をもっと欲しがっていますが、1日の時間は限られています。
だから、これは大きなブレイクスルーになると思います。基本的に、すべてのクリエイターがソーシャルメディアからすべての情報を取り込み、これらのシステムを訓練して、彼らの価値観やビジネス目標、彼らがやろうとしていることを反映させることができます。そして人々はそれと対話できます。それはクリエイターが作成するほとんど芸術的な作品のようなものになるでしょう。人々はそれと様々な方法で対話できます。
そしてこれは、人々が自分自身のために様々なAIエージェントを作成して異なることを行うことができるすべての方法について触れていません。
私たちは、最終的に何億何十億もの異なるAIエージェントが存在する世界に住むことになると思います。おそらく世界の人口よりも多くのAIエージェントが存在し、人々はそれらとあらゆる方法で対話することになるでしょう。
これが製品ビジョンの一部です。明らかに、そこには大きなビジネスチャンスがあります。そこでお金を稼ぎたいと思っています。モデル自体へのアクセスを販売することからはお金を稼ぎません。なぜなら、私たちはパブリッククラウド企業ではないからです。最高の製品を構築することでお金を稼ぎます。最高の製品の重要な要素は、最高のモデルを持つことです。」
これは、ヤン・ルカンが数ヶ月前にレックス・フリードマンに語ったことと全く同じです。彼は、オープンソースモデルを開発し展開することでお金を稼ぐのではなく、基準を定義し、そのAIを中心に最高の製品を作る企業になることでお金を稼ぐと言いました。それがメタになるでしょう。そして、それが彼らがお金を稼ぐ方法です。
このラストセクションで、彼はAIへの恐れについて、なぜ人々がAIを心配するのか、なぜすべきなのか、なぜすべきでないのかについて話します。見てみましょう。
「財政的には、インターネットが成功する前に大きなバブルが崩壊したことを非常に意識しています。インターネットに長期的に賭けていたすべての人々は最終的に正しかったのですが、時には物事が思っていたよりも時間がかかることがあります。それを見届けるコミットメントが必要です。これは私が意識していることです。
LLaMA 3、そしてLLaMA 4、LLaMA 5から得られるすべてのブレイクスルーにとてもワクワクしています。それがより良い製品に変換されると思います。しかし、現実的には、何かが十分に良くなって何十億もの人々が使う製品になり、大きなビジネスになる準備ができるのがいつなのかを前もって知るのは難しいです。
私たちは皆、これらのモデルを訓練するのに多額の資本を費やしています。そのため、かなり長い間損失を出し続けることになるでしょう。」
これは、業界全般から聞いていることです。すべての大手テクノロジー企業、さらには多くのベンチャーキャピタルのスタートアップへの投資も、シリコンの購入にお金を費やしています。主にNVIDIAから購入しています。これがNVIDIAの株価が過去数年で急上昇した理由です。
しかし、そのすべての初期投資が必ずしも収益に変換されているわけではありません。実際、収益は約300億ドルに過ぎないと思います。一方で、1兆ドルの支出がありました。これは長期的には持続可能ではありません。おそらく、小さなバブルがやがて崩壊する可能性があります。
しかし、明らかに私はAIに強気です。今、私の時間のすべてをそれに捧げているのはそのためです。そのため、長期的にはそれを信じています。彼が言ったように、ウェブに早期に賭け、長期的に賭けていた人々は最終的に正しかったのです。その間にバブルがありましたが、それについて考え、検討し、心配する必要があります。AIに関しては。
「これの別の部分で、あなたがより多く言及しているのは、人々の生計に対する懸念だと思います。これは、オープンソースアプローチ、つまりすべてのビジネス、すべてのクリエイター、すべての人に個別化およびカスタマイズされた多くの異なるモデルがあるというアプローチが重要だと考える理由の一つです。
これが、少数の企業が製品を構築し利益を得て、人々がその製品を使用し、AIアシスタントと話すのが価値があると感じるかもしれないが、それが何らかの形ですべての船を持ち上げるのに役立たない方法で発展した場合、最終的には反発が起こると思います。
Web 2.0の発展を見た後、AIやAR、VRなどの次世代技術において、単に繁栄する製品セットや経済的生産性の向上だけでなく、より良く持続可能な政治経済をどのように作り出すかについて考えてきました。より多くの人々がこのシステムに参加し、恩恵を受けていると感じ、支持していると感じるようにするためです。
ソーシャルメディアではそれをかなりうまくやったと思いますが、世界からのフィードバックや反応を見ると、AIや新しい技術でそれをさらに良くすることが重要だと思います。人々の生計や仕事、生活に対するこれらの技術の意味に関する懸念を軽減するためです。」
ここで終わりにしましょう。これは考えるべき素晴らしいポイントだと思います。今後数週間、数ヶ月、数年にわたって考えるべき非常に重要なことです。
LLaMA 3.1から生まれるすべての異なるイノベーションを見るのがとても楽しみです。携帯電話やラップトップに搭載できる非常に高性能なモデルや、閉鎖的なフロンティアモデルと同等の能力を持つ巨大な405Bモデルについて話すときも。
このビデオを楽しんでいただけたなら、ぜひ「いいね」をお願いします。そして、チャンネル登録もお願いします。次回のビデオでお会いしましょう。

この記事が気に入ったらサポートをしてみませんか?