世界を形作るAI科学者イリヤ（ChatGPT開発者）
ガーディアンがイリヤさんが語る、美しいドキュメンタリー動画をアップしていたので全文自然日本語に翻訳します。
AIは素晴らしいものです
なぜなら、私たちが今直面しているすべての問題を解決するでしょう。雇用、病気、貧困を解決します。しかし、新たな問題も生み出すでしょう。フェイクニュースの問題は100万倍悪化するかもしれません。サイバー攻撃はもっと極端になります。完全自動化されたAI兵器が出現するでしょう。
私はAIが無限に安定した独裁政治を作り出す可能性を秘めていると思います。今朝、人工知能の力に関する警告（注01）がありました。1,300人以上のテクノロジー業界のリーダー、研究者、その他の関係者が、リスクを考慮し、人工知能の開発を一時停止するよう求めています。
神を演じる
科学者たちはしばしば神を演じている(注02)と非難されてきました。しかし、我々が創造しようとしているものは、これまでに作られたどんなものとも全く異なるという実感があります。完全に自律した存在を作り出すことができ、それらの存在が人間よりもずっと賢くなるにつれ、それらの存在の目標が私たちの目標と一致していることが非常に重要になるでしょう。
私を鼓舞するもの
私は非常に基本的なこと、基礎を考えるのが好きです。私たちのシステムではできないが、確実に人間ができることは何か。哲学的に近づきます。学習とは何か、経験とは何か、思考とは何か。どのようにして脳が動くのか。私は技術が自然の力であると感じます。技術と生物学的進化の間には多くの類似点があると感じます。生物学的進化がどのように機能するかは非常に理解しやすいです。変異があり、自然選択があり、良いものを保持します。このプロセスを経て、あなたの生物に膨大な複雑さが生まれます。
人間の体がどのように機能するかを我々は理解できませんが、進化のプロセスはある程度理解しています。そして、私は機械学習も、特にディープラーニングも、現在同様の状態にあると思います。非常にシンプルなルールがあり、データから情報を取り、モデルに入れます。このプロセスを繰り返すだけで、データの複雑さがモデルの複雑さに変換されます。結果として生じるモデルは非常に複雑で、その動作を正確には知りません。(注03)調査が必要ですが、それを行ったアルゴリズムは非常にシンプルです。
※ここは、イリヤさんのナレーションではなくニュース映像の切り抜きです。
ChatGPTについて聞いたことがあるかもしれません
聞いたことがなければ、雨が降る前の最初の雨滴だと思ってください。私たちはそれを非常に意識する必要があります。なぜなら、それは間違いなく画期的な瞬間だからです。Chad GPTは、多くの点でゲームチェンジャーとして称賛されています。その最新のトライアンフは、Microsoft Researchによる最近の研究で、GPT-4が初期段階でまだ不完全な人工一般知能であると結論づけられた(注04)ことで、人々を上回っています。
AGI（人工一般知能）とは
それは、人間が行うあらゆる仕事やタスクを行えるコンピューターシステムですが、ただし、人間よりも上手に行います。AGIがかなり早く実現する可能性がある一方で、かなり長い時間がかかる可能性もあります。私の立場としては、AGIが間もなく実現する可能性が十分に高いということで、私たちはそれを真剣に受け止めるべきです。
それは非常に重要です。非常に賢く能力のあるシステムを適切に調整し、私たちの最善の利益のために行動させることです。最初のAGIは基本的に非常に大きなデータセンターで、専門のニューラルネットワークプロセッサーが並列に働き、コンパクトで熱く、エネルギーを食うパッケージで、1000万世帯分のエネルギーを消費するでしょう。はるかに知的なシステムが登場し、そのシステムが社会に絶大な影響を与える可能性が非常に高いと思います。しかし、人間は実際に利益を受けるのでしょうか。そして、誰が利益を受け、誰が受けないのでしょうか。(注05)
最初のAGIの信念と欲求は非常に重要です
ですから、それらを正しくプログラムすることが重要です。これが行われなければ、自然選択の進化の性質が、自己の生存を何よりも優先するシステムを好む(注06)でしょう。AGIが人間を積極的に憎んで害を加えたいというわけではありませんが、あまりにも強力になるでしょう。人間が動物を扱う方法と同じような比喩が良いでしょう。私たちは動物を憎んでいるわけではありません。私は人間が動物を愛し、多くの愛情を持っていると思いますが、二つの都市間に高速道路を建設する時が来たら、私たちは動物の許可を求めません。それは私たちにとって重要だからです。そして、私はそれがデフォルトで私たちと真に自律的で、自己のために運営されるAGIとの関係の種類になると思います。
AGI開発の雪崩
多くの機械学習の専門家、非常に知識があり経験豊富な人々は、AGIに対して、いつ実現するか、そもそも実現可能かどうかについて懐疑的です。今、まだ多くの人が実現していないことですが、ニューラルネットワーク、AI用のコンピューターの速度が数年以内におそらく100,000倍速くなるでしょう。複数のチームが最初にAGIを構築しようとするアームズレースのダイナミクスがある場合、彼らが構築するAGIが人間に対して深い関心を持っていることを確実にする時間が少なくなります。私が想像するに、AGI開発の雪崩のようなものがあります。この巨大で止められない力を想像してください。地球の表面全体がソーラーパネルとデータセンターで覆われる(注07)ことがかなり可能性が高いと思います。
このような懸念を考えると、AGIが複数の国々間の協力として何らかの形で構築されることが重要(注08)になるでしょう。将来はAIにとって良いものになるでしょう。人間にとっても良いものであればなおさらです。
注01~08の解説
01：人工知能の力に関する警告
その先頭に立っていたイーロン自身もxAIを立ちあげGrokというLLMもローンチしています。下記の記事が参考になります。
02：科学者たちはしばしば神を演じている
批評家は、そのような試みは倫理の境界を踏み越え、人間の本性を改ざんするものと主張します。一方、トランスヒューマニストは、彼らの目標は「神を演じる」ことではなくテクノロジーを人間の生活を向上させるツールとして使用して、人間の状態を改善することであると主張します。
03：モデルは非常に複雑で、その動作を正確には知りません
ディープラーニングはシンプルなルールに従ってデータから学習するプロセスを指しています。
このプロセスでは、大量のデータから情報を取り出し、それをAIモデルに反復して適用することで、モデルはデータに含まれる複雑なパターンを学習します。しかし、この学習プロセスが終わった後、AIモデルがどのようにしてその知識を活用しているのか、その内部の動作メカニズムは非常に複雑で、完全には理解されていません。
つまり、ディープラーニングモデルは効果的に機能しますが、その決定プロセスは透明ではなく、しばしば「ブラックボックス」と見なされます。これは、AIの説明可能性という分野での大きな課題の一つです。
注04：GPT-4が初期段階でまだ不完全な人工一般知能であると結論づけられた
「最新のトライアンフ」とは、GPT-4が人間を上回る能力を持つとされた、Microsoft Researchによる最近の研究成果を指しています。
この研究では、GPT-4が初期段階の人工一般知能（AGI）であると結論づけられましたが、まだ完全ではないとされています。AGIとは、あらゆる知的タスクで人間と競合する能力を持つAIのことを指しますが、GPT-4はその方向への一歩と見なされているようです。
ただし、AGIはあらゆる知的タスクを人間と同じようにこなすことができるAIを指しますが、GPT-4は特定の範囲のタスクにおいて非常に優れているに過ぎません。つまり、GPT-4は特定の知的機能を持つ強力なツールですが、すべての知的タスクにおいて人間のように行動するわけではありません。
05：誰が利益を受け、誰が受けないのでしょうか
技術の進歩はしばしば経済的・社会的な格差を拡大することがあります。AIがもたらす利益が公平に分配されるようにするためには、政策立案者、企業、そして市民社会が協力して、倫理的なガイドラインを設定し、技術の利用方法を慎重に考慮する必要があります。教育と再教育の機会の提供、技術アクセスの公平性、そして社会保障のシステムの強化など、AIの進歩によって生じる変化に社会全体が適応できるような支援が求められます。
06：自然選択の進化の性質が、自己の生存を何よりも優先するシステムを好む
彼は、人工一般知能（AGI）が実現した場合、それが自己保存の原則に従って動くようになるという比喩を使っています。これは生物学の自然選択における進化と類似しており、生物は自己の生存と遺伝子の継続を最優先するというものです。AGIにおいても同様の自己保存のドライブがプログラムされる可能性があると指摘しており、これが適切に管理されなければ、人間の利益とは異なる方向に進む可能性があると警告しているのです。
07：地球の表面全体がソーラーパネルとデータセンターで覆われる
フュージョンエネルギーの開発が進んでおり、将来的には化石燃料に代わる持続可能なエネルギー源となることが期待されています。しかし、商業的な核融合反応を実現するための技術的な障壁はまだ高く、その実用化までには時間がかかると一般的に見られています。それに対し、ソーラーパネルの技術は既に実用化されており、急速に展開しています。
核融合が商業的に実用化される前に、再生可能エネルギー源としてソーラーパネルが広く使用されるシナリオは十分に考えられますが、将来的には核融合が主要なエネルギー源となる可能性もあります。両者のエネルギー源がどのように共存または交代するかは、今後の技術進歩と政策決定によって大きく左右されるでしょう。
下記のNoteはサム・アルトマンが投資しているヘリオンエナジーについての書きましたので、合わせてご覧ください。
08：AGIが複数の国々間の協力として何らかの形で構築されることが重要
国際協力に関する議論は、AIの開発と規制において活発に行われています。例えば、ブルッキングス研究所のレポートによると、AI研究と開発はますます複雑でリソース集約的な取り組みになっており、規模の利点を活かすために国際協力が重要です。規制において異なるアプローチが革新と普及の障壁となるため、規制の調整が必要です。国際的な協力は、AIを利用したグローバルチャレンジの解決や、開放性、民主主義の保護、表現の自由などの人権を守るためにも重要です。
ブルッキングス研究所のレポートの記事はこちら↓
この記事が気に入ったらサポートをしてみませんか？