AGIがもうすぐやってくる！その後どうなる？ 何が残ってる？ どう適応して準備すればええんや？

8,436 文字

o1プレビューのリリースで、人工汎用知能（AGI）まであとちょっとやで。けど、ここには掘り下げるべき微妙な点がようけあるんや。せやから、人工知能の現状とこれからについて、もっと深く見ていこか。
o1プレビューはAGIにかなり近いんや。なぜかって言うと、TwitterやRedditなんかで、ようけ議論があってな。ベンチマークはもう良好やけど、o1の学術的、科学的、経済的影響は、多くの能力で人間に匹敵するか上回っとるんや。
例えば、Redditで誰かが「o1プレビューが1時間で俺の論文全部やってくれた。俺は1年かかったのに」って言うてた。これはかなりすごいことやで。
前回の動画「o1はどれくらい賢いんか」を見てもらえたら、大体わかると思うけど、簡単に言うと、o1プレビューは使い勝手の面で優秀な大学院生くらいやって言われとるんや。しかも、これはまだ完全版やないねん。
多くの人が指摘してるように、完全版のo1は10月に出て、その後すぐにoionが出る予定や。サム・アルトマンが言うてたけど、oionはクリスマス頃に出るらしいで。Project Orionは次世代モデルやけど、GPT-5になるかもしれんし、まだはっきりしてへんねん。
そういうわけで、これはIQで言うと120くらいやけど、推論能力はまだ一部で失敗することもあるんや。ただ、上手く使える人なら、かなりの成果を得られるんやで。
次に、「AGIやないのは、身体性がないからや」って言う人もおるけど、ワイはそれには全然同意できへんねん。なぜかって言うと、まず、全部データなんや。脳に入ってくる情報も、出ていく情報も、全部データなんや。
例えば、頭を切り離して、目と耳を取ってしまっても、理論的には全ての入出力をシミュレーションできるんや。脳は小さな容器の中で考える機械みたいなもんやねん。
AIの視点から見ても、全部データなんや。それに、科学的モデリングやソフトウェア開発みたいな、AGIにとって一番価値のあるタスクは、物理的な存在を必要としないんや。必要なのは、制御したいリソースにアクセスするためのAPIだけやねん。
つまり、ワイが言いたいのは、ロボットがあっても、十分に良いロボットなら、データセンターから操作できるんや。身体性は必要ないんや。
AGIを判断する主な指標は、経済的影響と科学的影響やと思うねん。身体性が必要やって言うのは、ほとんど的外れやと思うわ。
ただ、経済的利益を全て実現するには、まだロボットが必要やね。身体性のデータは必要ないけど、建設作業を自動化するには十分に良いロボットが要るんや。今のところ、瓶の中の天才みたいなもんやけどな。
これは悪いことやないで。AGIがここにあるとか、すぐそこまで来てるって言うても、まだ広く展開されてへんってことは、安全性の問題を解決する時間がたっぷりあるってことやねん。
AI安全性運動の一部の強硬派の人らに、ワイが混乱してるのは、AGIができたからって、そのモデルがデータセンターから自分をコピーして出ていけるわけやないし、開発者を騙して「準備できました」なんて言えるわけやないってことや。彼らは徹底的にレッドチームを組んでテストしてるんやで。
安全性の話はこれくらいにして、次に進もか。具体的な数字を見つけるのは難しいんやけど、仕事の分類によってかなり違うんや。
ワイが言いたいのは、完全に座ってする仕事とか、コンピューターの前だけで行う仕事がどれくらいあるかを調べようとしたんや。でも、「完全に座ってする仕事」は13.3%しかないって出てきたんや。軽い身体的努力が必要な仕事は24%やった。
でも、ホワイトカラーやオフィスワーカーの仕事って見方をすると、65%まで増えるんや。この差が大きいよな。
つまり、ロボットがまだなくても、近い将来に13.3%から65%の仕事が自動化のリスクにさらされる可能性があるってことやな。
人間並みの器用さを持つロボットが必要になるのは、人間を完全に労働力から排除するためや。これは避けられへんし、ええことやと思うねん。意見が分かれるかもしれんけど、ワイはこれを「ポスト労働経済」って呼んでるわ。
このチャンネルをしばらく見てくれてる人なら、ワイの「ポスト労働経済」の概念を知ってると思うで。
次は法的な摩擦やな。AGIができたとして、どうやって展開するんか？ってなるやろ。展開を遅らせる要因がようけあるんや。主に官僚主義やな。
多くの企業が「これ、やっていいんかな？」って躊躇するやろうし、後で企業の導入についてもっと詳しく話すけど、多くの仕事は機械がするって想定されてへんかってん。人間がほとんどの仕事をするって前提やったんや。AGIで仕事をこなす新しいパラダイムを作るのに時間がかかるんや。
「デイブ、それ当たり前やん。AIにAPIを与えて、ロボットの体を与えたらええやん」って思うかもしれんけど、そう簡単やないんや。インフラを整えなあかんし、ビジネスプロセスも更新せなあかんのや。
それに、労働組合がこれについて何か言いたいことがあると思うで。AIやロボットの導入を全力で阻止しようとするやろうな。規制的なサボタージュまでやりかねんで。
EUで、反AI法案の責任者やった人が最近引退したか辞任したんやけど、その人の名前を思い出せへんわ。でも、こういうことやねん。AIとロボット工学の導入を、あらゆるレベルでサボタージュしようとする人らに気をつけなあかんのや。企業だけやなく、安全性運動でも、政府の上層部でもな。
みんな感情的に反応してるんや。全員がストイックで純粋な論理を使わなあかんって言うてるわけやないで。人間は皆感情的やからな。でも、この新しい運動は物事を遅らせようとするし、できるだけ歯車に靴を投げ込もうとするんや。これは受け入れていかなあかんことやな。
ちょっと休憩して、ワイの新しいコミュニティ「Era Pathfinders」について話させてな。これは、この移行期を一緒に乗り越えていくためのコミュニティなんや。
タグラインは簡単や。「AIの圧倒的な変化を克服し、新しい機会を見つけ、意味と目的のある人生を築く」。第四次産業革命への移行期を乗り越えていくために、すごいコミュニティを作ったんや。
PBLプロジェクトもやっとるで。ワイのラズベリープロジェクト、つまりo1のオープンソース版を皆でやっとるんや。それに、ワイが学んできたことを構造化して教えるクラスもあるんや。AIに適応するために学んできたことをな。
定期的にウェビナーもやっとるで。Q&Aセッションや練習セッションや。最近はコミュニケーションスキルの練習をしてるんや。先週は「ディスカバリー・ダイアド」っていうコミュニケーションの方法を練習したんや。数分の練習で、初対面の人同士が自信を持って話せるようになったんや。今週は「サークリング」か「関係性の瞑想」をやるで。来週は「カクテルパーティー」みたいなコミュニケーションをやる予定や。
さて、次は「キャズムを越える」、つまり企業の導入について話すで。企業の導入はもっと大きな障害になるやろうな。理由はいくつかあるんや。
まず、企業は有名なほどリスク回避的やねん。多くの企業にいた経験から言うと、信頼できるベンダーが提供してないプログラムやプラットフォーム、アプリケーションを採用することに、かなりの躊躇があるんや。
AGIがMicrosoftやOracleから直接提供されるまで、ほとんどの企業は採用せんやろうな。OpenAIのAGI製品は採用せんのや。「数年かけて統合して、OpenAIがMicrosoftに吸収されて、全てのAPIが変わったら困るわ。様子見しとこ」って考えるんや。信じられへんかもしれんけど、これが企業の考え方なんや。
多くのCEOに聞いてみると、人工知能に積極的なのは13%から25%くらいしかおらへんのや。ほとんどが様子見の状態で、「見てから信じる」って感じやねん。
これはシリコンバレーの傲慢さが原因やな。シリコンバレーは、全ての企業で自意識過剰で、常に過剰な約束をして、期待に応えられへんって評判なんや。この「過剰な約束をして期待に応えられへん」ってのが、多くの企業が「経済的な証拠が出るまで待とう」って考える理由なんや。
競合他社がこれらの製品を導入し始めるのを見てから、データが採用を強制するまで、あるいは株主が採用を要求するまで待つんや。これらのことが重なって、企業レベルでの採用カーブが遅くなるんや。
でも、これはまた安全性やその他の側面についてもっと時間ができるってことやな。今から話すけどな。
ちょっと文脈を説明させてな。先週、小さな地元のAI安全性会議に行ってきたんや。そこで話し合ったのは、この変化する状況でAI安全性をどう見るかってことやった。
昔のやり方、つまりエラザー・ユドコウスキーのやり方では、ある日突然、クトゥルフやラヴクラフトみたいな不明瞭なASIが現れて、一連の特徴を持つっていう vision やったんや。でも、それは全然的中してへんかってん。
代わりに、AIは分散型で到来してるんや。つまり、多くのデータセンターに分散して存在してるってことや。開発にも反復的なアプローチを取っとるんや。
ここでサム・アルトマンとイリヤ・サツキーバーの意見の違いに同意するんやけど、2023年の夏頃にこんな議論があったんや。サムは「さっさと展開して、人々がどう使うか見て、それに適応していこう」って言うてた。イリヤは「もっと真空状態で安全性テストをする必要がある」って言うてた。
ワイはここでサムに同意するわ。なぜかって言うと、まず低グレードの製品をリリースするんや。だからChatGPTをリリースしたんや。「出して、人々がどう使うか、どう悪用するか見て、そこから市場や規制当局からのフィードバックを得て、安全性を方向付けしていこう」ってな。
サムが何度もインタビューで言うてたけど、ChatGPTがどう使われ、悪用されるか、全ては想像できへんかったんや。だから、後からより安全にするんじゃなくて、早めに市場に出すことに同意するわ。もちろん、ある程度の安全性テストは必要やけどな。でも、何年も閉じた扉の後ろに隠しておくのは安全性テストのやり方としては良くないんや。
これからは、ロボットを作り、AGIを達成し、最終的にASIに到達する過程で、安全性を導く5つの主要なフィードバックループがあるんや。
まず、市場のフィードバックや。これは誰が何を買うかを決めるってことや。大衆の意見の法廷が何を言うかってことやな。例えば、数ヶ月前にGeminiがリリースされて、超ウォークやったの覚えてるやろ？話したくないことがめっちゃあって、GoogleのFAIが白人の画像生成を完全に拒否したりしてな。すぐに市場からのフィードバックをようけ貰って、Googleはまだイメージを回復できてへんのや。
次に企業のフィードバックや。さっき話したように、企業は新しい技術に対してめっちゃ慎重なんや。例えば、ゴールドマン・サックスにAGIを採用してもらいたかったら、証明可能で、透明で、説明可能なもんじゃないとアカンのや。これは金融取引の規制要件は別としても、企業が求めることやねん。
OpenAIやMicrosoft、Googleへの企業からのフィードバックや。まあ、MicrosoftとGoogleはもう企業向けソフトウェアやから、これを採用してもらうためのライフサイクルは分かっとるんやけどな。
次は軍事のフィードバックや。軍は非常に厳しい要件があるんや。オフスイッチを押したら、ちゃんと止まらなあかんのや。信頼性があって、フェイルセーフが組み込まれてなあかんのや。
OpenAIが軍事契約を欲しかったら、説明可能で、解釈可能で、止めろって言うたら確実に止まる信頼性がなあかんのや。
次は政府のフィードバックや。これには2つの部分があるんや。1つは規制で、これはもう話してるけど、もう1つは政府にAGIを売りたかったら、承認されたベンダーにならなあかんし、この技術が良いもんやって証明せなあかんのや。
アメリカ政府は技術をすぐに採用することで知られてへんから、これらのフィードバックループは全て、AGIが広く展開されるスピードを遅くするんや。もちろん、これらのフィードバックループは安全性運動にも情報を与えるし、これらの製品の商業的実現可能性にも影響するんや。
次はオープンソースや。オープンソースは大手に遅れを取ることはほとんどないんやけど、例外が一つあるんや。これからはスケールが最大の堀になるかもしれんのや。
これからモデルのトレーニングに1億ドルか10億ドルかかるようになって、それをファインチューニングする研究に何億ドルもかかるようになったら、大手だけがこれをできるようになるかもしれんのや。
でも、リソースが限られてる人たちとのインタビューやポッドキャストを見てると、制約があることで逆に創造性が高まることがよくあるんや。
例えば、ワイのラズベリープロジェクトでは、予算を抑えながらo1にできるだけ近づこうとしてるんや。これでどんな発見があるかわからんけど、制約があることで創造性が高まることが多いんや。
ソビエト連邦でもこれが見られたんや。ソビエト連邦はアメリカよりもリソースが少なかったから、ロシアの科学者は多くのことを紙の上で考えなあかんかってん。アメリカはスーパーコンピューターでシミュレーションできたけどな。
でも、結果的にそれが彼らをより創造的にさせたんや。中国も同じや。アメリカほどスーパーコンピューターがないけど、意志があれば道は開けるもんやで。
だから、オープンソースは主力モデルの6～12ヶ月後くらいにしか遅れへんと思うんや。ただ、スケールは持てへんかもしれんけど、時間が教えてくれるやろ。
更に興奮するのは、次世代モデルがもうすぐ来ることや。o1の完全版は10月に出るって噂やし、サム・アルトマンはプロジェクト・オリオンがクリスマスに出るって匂わせとるんや。
次々と段階が来るんや。o1は現在のモデルよりも大きな飛躍をするし、o1プレビューから完全版への飛躍も同じくらい大きいんや。少なくともベンチマークを信じるならな。
もちろん、経済的にどれだけ価値があるか、科学的にどれだけ価値があるかは時間が教えてくれるやろ。でも、o1プレビューがすでに多くのタスクで人間を超えてるなら、この傾向は続くと考えてええと思うんや。
これは何を意味するんかって？ワイは、2024年末か2025年には、振り返ってみて完全なAGIがあったって誰もが同意することになると思うんや。もちろん、2027年ってのは多くの人が絞り込んでた数字やけど、これがあと2年続いたらどうなるんやろ？ほぼ間違いなく人工超知能やろ？時間が教えてくれるやろな。
OpenAIの動き方を見てて気づいたんやけど、チップ産業を思い出すんや。チップ産業には「ティック・トック・モデル」ってのがあるんや。これは、まずマイクロアーキテクチャを変更して、次にダイを縮小するっていうサイクルを繰り返すんや。
8ナノメートルから6ナノメートルになったって聞くのは、マイクロアーキテクチャの変更かダイの縮小のどっちかやな。ワイはチップ設計の専門家やないから、どっちかはよう分からんけど。
とにかく、OpenAIも同じことをしてるんや。まずモデルをスケールアップして、それから最適化するんや。GPT-4からChatGPTに行って、それから40と40ミニが出てきたのが最適化やったんや。
今は新しい主力モデルがあって、これがo1シリーズかOシリーズやな。噂ではオリオンシリーズやって。これらは大きくて遅くて高価なんや。だから、コストを下げるために最適化する必要があるんや。
ワイは、OpenAIがこれからもこのモデルを使い続けると思うんや。スケールアップして、最適化して、最適化できるだけしたら、またスケールアップして、また最適化するんや。これはチップ産業で何十年も、インテルが設立されてからずっと使われてきた確立されたパラダイムやねん。
次の6～24ヶ月の間に、この新世代、o1世代のモデルの価格が徐々に下がっていくと予想してるんや。最適化すると少し知能は落ちるかもしれんけど、効率を上げると常に知能を犠牲にせなあかんからな。
サム・アルトマンがよく言うように、「知能が計るのが安すぎる」状態になるんやけど、月1000ドルか2000ドルじゃまだまだ安すぎるとは言えへんな。最適化フェーズにはまだ少し仕事が残ってるわけや。
最後に、人間の例外主義について話したいんや。これについて話してると、ここやサブスタック、Twitterでのコメントを読んでて、4つの主な反論があるんや。「これは実際にはAGIじゃない」とか「これは実際には人間より賢くない」って言うんやけど。
1つ目の反論は「本当の理解をしてない」ってことや。でもワイに言わせれば、それは関係ないんや。出力が正確で測定可能で、経済的にも科学的にも価値があるなら、それが重要なんや。「本当の理解」をしてるかどうかは関係ないんや。
ワイは、ほとんどの人間が何も本当には理解してへんって主張する人間でもあるんや。脳が「わかった」って信号を送ってるだけなんや。ネットのコメントを読んでみ。ほとんどの人間が自信満々に間違ってるで。ワイも時々そうやけどな。
人間に「本当の理解」なんてないんや。それは的外れな議論や。スコットランド人論法みたいなもんや。
2つ目の反論は「本当の経験がない」ってことや。主観的な経験がないって言うんやけど、有用であることに意識や感覚、現象的経験は全く必要ないんや。レンチには経験がないけど、お前にとって有用やろ？
水車やワイがこの録画に使ってるコンピューターも、「本当の経験」は必要ないけど有用やねん。全部データなんや。お前や俺が持ってる経験も、情報理論の観点から見たら全部情報で、全部データなんや。経験があるかどうかは関係ないんや。
3つ目は身体性の議論で、これはもう話したな。基本的に、ロボットはAIの操り人形になるだけやと思うんや。AGI capable なAIチップを自己完結型のロボットに入れることもできるかもしれんけど、無線で更新されたり、遠隔操作されたりするんやろな。
4つ目の反論は、人間は集団として機械より知的やってことや。これは面白い対処法やと思ったんやけど、結局ただの対処法にすぎんのや。「人間は全員合わせたら機械より知的や」って。そうかもしれんけど、1年後か2年後か3年後に、IQ 250のAGIエージェントやASIエージェントが何十億といる世界になったらどうなんねん？彼らは集団として人類全体よりも知的になるんや。そしてそれは、思ってるよりも早く来るかもしれへんで。
結局のところ、これは全部動機づけられた理由付けなんや。人々は変化を恐れて、自分のエゴを守ろうとしてるんや。自分の議論する能力を使って、この現実に向き合わんようにしてるんや。
だからワイは、これは全部対処法にすぎんって言うんや。これが俺たちが直面してる現実なんや。言葉遊びでこれを願い去ろうとするのは、時間と精神エネルギーの無駄遣いやで。
最後に、5年以上かけて11回の草稿を経て、ワイの小説「Heavy Silver」がついに出版されることを発表するで。昨日、Barnes & Nobleに最終承認を提出したんや。今はセールスページが更新されるのを待ってるだけや。それができたら、リンクを示してみんなに買ってもらえるようになるんや。
まだ電子書籍版は出さへんで。これはペーパーバックのパルプ小説として楽しんでもらうためのもんなんや。何冊かのコピーをここに持ってるけど、校正済みで発売準備は整ってるで。オーディオブックの予定もまだないんや。
正直言うと、誰かから出版契約をもらえたらいいなって期待してるんやけどな。最初の1000部くらいは割引コードを用意する予定や。その割引は、YouTubeチャンネルのメンバー、Patreonのメンバー、学校のメンバー、サブスタックのメンバーなど、有料会員全員に適用されるんや。
これは三部作の一部でもあるんや。続編の執筆に懸命に取り組んでるところやで。続編は下書きの段階で、10月から4回目の下書きを始める予定や。完成にはちょっと時間がかかるかもしれんな。三部作の一部やし、ファンに人気のあるキャラクターのプリクエルも計画してるんや。
さて、最後まで見てくれてありがとう。素晴らしい一日を過ごしてな。ほんま、今はワクワクする時代やで。じゃあな！