OpenAI元社員による衝撃的な10年の予測
これからの10年についての予測
サンフランシスコの役割
未来のテクノロジーはサンフランシスコで最初に見ることができると言われています。この都市では、AI（人工知能）に関する技術が急速に進化しており、その影響で街の話題が急速に変わっています。例えば、計算能力の大規模な増加が話題であり、企業は今後の電力供給を確保するために競争しています。
AIの急速な進化
最近、AIの開発が急速に進んでおり、これらの機械は思考し、推論する能力を持つようになってきました。2025年から2026年には、これらのAIが多くの大学卒業生よりも賢くなると予測されています。そして、10年の終わりまでには、これらのAIは人間をはるかに超える知能を持つようになるでしょう。
この進化の結果、国家安全保障の観点からも大きな変化が予想されます。アメリカの大企業は、AI技術の発展に対応するために数兆ドルを投じる準備を進めています。これには、電力供給の増強やデータセンターの建設が含まれます。
AIに対する一般の認識不足
現在、多くの人がAIについて話していますが、実際に何が起ころうとしているのかを理解している人はほとんどいません。
多くの専門家や評論家は、AIの進化を過小評価しており、「ただの流行」や「次の単語を予測するだけ」と見なしています。しかし、実際にはAIの影響は非常に大きく、これからの世界に大きな変化をもたらすでしょう。
サンフランシスコの現状
現在、AI技術の最前線にいるのはサンフランシスコと一部の研究所の数百人の人々です。これらの人々は、数年前には狂人扱いされていましたが、正しく未来を予測してきました。彼らの予測が今後も正しいかどうかはわかりませんが、非常に賢い人々です。
10年先の未来について
これからの10年で私たちが見ている未来について詳しくお話しします。
このシリーズの各エッセイは独立して読めますが、全体を通して読むことをお勧めします。以下に、目次を示します。（※岡田より：記事後半経全てのリンクを設置しています）
序章
AGI（汎用人工知能）を2027年までに実現する可能性は非常に高いと考えられます。GPT-2からGPT-4への進化は、わずか4年間でプリスクールレベルから賢い高校生レベルまでの飛躍を見せました。この進歩のペースを踏まえると、2027年までにさらに大きな飛躍が期待できるでしょう。
最初の4年間
GPT-2からGPT-4までの進化
GPT-2（2019年）: 基本的な文章の生成が可能であり、時々一貫した段落を生成できる程度。
GPT-3（2020年）: より複雑なタスクに対応可能で、基本的なプログラミングや文法の修正ができる。
GPT-4（2023年）: 高度なプログラミングや数学的な推論が可能で、高校生レベルの試験で優秀な成績を収める。
この進化は、計算リソースの増加、アルゴリズムの効率化、そして「アンホブリング」（モデルの潜在能力を引き出すための改善）の結果です。
計算リソース
近年の進歩は、主に計算リソースの大幅な増加によるものです。例えば、GPT-2からGPT-3への移行では、計算リソースが約2オーダー（100倍）増加しました。GPT-3からGPT-4ではさらに1.5から2オーダー（30倍から100倍）増加しました。これにより、モデルの性能は劇的に向上しました。
アルゴリズムの効率化
アルゴリズムの効率化も重要な要素です。例えば、GPT-4のリリース時のコストはGPT-3のリリース時のコストとほぼ同じですが、性能は大幅に向上しています。これはアルゴリズムの進歩によるものです。2023年から2027年にかけて、さらに2オーダー（100倍）の効率化が期待されます。
データの壁
現時点での課題の一つは、インターネット上のデータが不足する可能性です。しかし、研究者たちは合成データや自己学習、強化学習（RL）などの新しいアプローチを模索しています。これにより、データ不足の問題を克服できる可能性が高いとされています。
アンホブリング
モデルの潜在能力を引き出すための「アンホブリング」も大きな進歩をもたらします。例えば、人間のフィードバックを取り入れた強化学習（RLHF）や、連鎖思考（CoT）などの技術が挙げられます。これにより、モデルの実用性が大幅に向上しました。
次の4年間
予測される進化
2023年から2027年にかけて、さらに3から6オーダー（1000倍から100万倍）の計算リソースのスケールアップが期待されます。また、アンホブリングにより、モデルの実用性も大幅に向上するでしょう。具体的には、チャットボットからエージェント（リモートワーカー）のような形態に進化することが予想されます。
この進歩により、2027年までには、AI研究者やエンジニアの仕事を完全に自動化できるレベルのモデルが実現する可能性があります。
II. AGIからスーパーインテリジェンスへ：インテリジェンスの爆発
AIの進化は人間レベルで止まることはありません。数百万のAGIがAI研究を自動化することで、10年分のアルゴリズム進展（5+ OOMs）を1年以内に圧縮することが可能です。我々は人間レベルから遥かに超越したAIシステムへと急速に進化するでしょう。スーパーインテリジェンスの力と危険性は劇的です。
AI研究の自動化
AI研究の仕事は完全に仮想環境で行えます。実験に必要な計算能力の制約があるものの、AI研究者がする仕事は、ML（機械学習）文献の読み込み、新しいアイデアの発見、実験の実施、結果の解釈といったサイクルの繰り返しであり、これらは現在のAI能力の単純な延長線上で達成可能です。
自動化されたAI研究者を数百万コピー（人間の100倍の速度で作業）することで、AIのアルゴリズム進展を劇的に加速させることができます。
可能なボトルネック
限られた計算能力: 実験のための計算能力が限られているため、自動化された研究のスピードアップは限定的かもしれません。しかし、自動化されたAI研究者は非常に効率的に実験を行うことができ、理論的には人間の研究者よりもはるかに効率的です。
相互補完性と長尾効果: 全てのタスクを完全に自動化できるわけではなく、最終的には人間の研究者がボトルネックになる可能性があります。しかし、主要なタスクの多くは自動化可能であり、全体の進展速度は大幅に向上します。
アルゴリズム進展の限界: さらなる5 OOMsのアルゴリズム効率化が根本的に不可能かもしれませんが、過去10年で達成された進展から見て、さらなる進展の可能性は十分にあります。
スーパーインテリジェンスの力
スーパーインテリジェンスは次のような能力を持つでしょう：
定量的に超人的: 数百万のGPUを使って、何十億ものコピーを並列実行し、彼らは人間よりも何桁も速く「思考」することができます。
定性的に超人的: 大規模なRL（強化学習）の結果として、人間には理解不能なほど創造的で複雑な行動を生み出す能力を持ちます。科学技術の難問を非常に短期間で解決することができます。
このように、スーパーインテリジェンスの到来は非常に急速であり、我々はその可能性に対して準備を整える必要があります。スーパーインテリジェンスがもたらす進化とその影響を理解し、適切な対応をすることが求められます。
元記事
各記事へのリンク
https://situational-awareness.ai/wp-content/uploads/2024/06/situationalawareness.pdf
この記事が気に入ったらサポートをしてみませんか？