サム・オルトマンによる『知能の時代』 "...数千日のうちに超知能を手に入れるでしょう"

15,481 文字

ほな、サム・オルトマンはんが個人のブログに投稿したもんがあって、これはちょっと大事やと思うんです。なんでそないに大事なんか、後で説明させてもらいますわ。まずはどないな内容やったか見てみましょ。
ここでの大きな考え方は、新しい時代に入ってきてるってことなんです。産業革命の時代とか、情報化時代とか、デジタル時代があったように、ドット・コム時代とか通信時代とかもありましたやん。要は、歴史の中のある時期には、後から「なんとか時代」って呼ばれるようになるんです。
今私らが生きてる時代は、新しい時代のほんまに始まりなんです。この時代は後から何かの名前で呼ばれることになるんやと思います。過去の時代は、成長を促進したもの、イノベーションが起こったもの、進歩を牽引したものの名前が付けられましたよね。産業とか、情報とか、パソコンとかインターネットとかソフトウェアとか。デジタル時代やったらデジタル経済の大規模な拡大とかクラウドサービスとかがあったわけです。
ほんで、次の時代、次の時期は「知能の時代」って呼ばれる可能性が高いんちゃうかなって。ショッキングなことに、これはサム・オルトマンのブログ記事かペーパーかなんかの名前でもあるんです。
知能の時代がいつ始まったって言うかは分かりませんけどね。2017年のGoogleの論文「Attention Is All You Need」からって言う人もおるかもしれません。これはTransformerアーキテクチャの発明で、多くの人がこれがきっかけやったって思ってるんちゃうかな。
あるいは2022年の終わり、ChatGPTのリリースからかもしれません。そのときに多くの人が「おっ、これは新しいもんや、違うもんや」って気づいたんちゃうかな。
あるいはGPT-4かもしれません。数ヶ月後の2023年初めくらいにリリースされましたよね。いつが始まりやったかは分かりませんけど、この知能の時代のほんまに初期の段階やってことは分かってます。
ちょっと急ぎますけど、サム・オルトマンは過去にも突拍子もないこと、未来すぎること、SF的なことを言うてきたんです。AIの業界の有名な人らが、あいつは真面目やないとか、なに言うてるか分かってへんとか言うてたこともあります。
例えば、2016年か2017年くらいにOpenAIを設立したときに、AGI（人工汎用知能）を作ってるって宣言したんです。当時はナンセンスやとか笑い物にされてましたけど、2023年には「うーん、そうでもないかも。もしかしたら正しかったんかも」って感じになってきました。
今では、もっともっと多くの人が、思ってたよりずっと近づいてるって予測してるんです。数年先かもしれません。
2021年3月に「すべてのためのムーアの法則」っていうブログ記事を書いてて、そこで「今後5年以内に、考えることができるコンピュータープログラムが法律文書を読んだり医療アドバイスをしたりするようになる」って言うてるんです。2021年当時はこれも笑い話やったでしょうけど、今では彼の言うてることに同意せえへん人はおるかもしれませんが、どんどん多くの人が意見を変えてきてます。
彼は「これらのスマートマシンが自分たちでもっとスマートなマシンを作るのを手伝う再帰的なイノベーションのループが、革命のペースを加速させる」って言うてます。これも2021年にはSF的なアイデアやったんですけど、このチャンネルをよう見てる人なら分かると思いますが、文字通りこれが起こり始めてるっていう論文をいくつも紹介してきました。
どんどんAIに頼って次世代のAIを作るようになってきてるんです。これがストロベリーモデルやったり、近々出るオリオンモデルやったりするわけです。OpenAIやGoogleやNVIDIA、その他多くの会社の仕事がそうです。メタのマーク・ザッカーバーグも、これらのモデルを特定のタスクのために他のモデルを訓練する教師モデルとして見ることができるって話してます。このアイデアは今ではずっと受け入れられやすくなってきてます。
この引用を覚えておいてください。「すべての真実は3つの段階を経る。最初は嘲笑され、次に激しく反対され、最後に自明のこととして受け入れられる」
「AGIを作ってるって？バカバカしい。それはSFやで」っていうのが最初の段階です。
次に激しく反対されるんです。これらの機械に何らかの理解や推論能力があるって示唆すると、人々がすごく怒るのを見てきました。このチャンネルでも例を示してきましたが、こういうこと示唆すると人々はすごく反対したり、少なくともすごく怒ったりするんです。
そして最後に、自明のこととして受け入れられるんです。「そうや、AGIはもうすぐやで。これらの機械が考えたり推論したり理解したりできるのは当たり前や。なんでそう思わへんかったんやろ。ずっと前から分かってたやん」みたいな感じです。
ほな、それに備えておいてください。もうすぐやで。
ほんで、この投稿で彼は物事がどう展開していくかを説明してるんです。2021年やったらSF的すぎて「うーん、そうかもしれへんけどなぁ」って感じやったでしょうけど。
2021年に彼が言うてたのは「考えて学習できるソフトウェアが、今人間がやってる仕事をどんどん多くするようになる」ってことです。当時の一般の人やったら「はは、じゃあもう働かんでええってことか。ええやん、のんびり人生楽しめるわ」って笑い飛ばしたでしょう。
今では、もう給料もらえへんようになったらどうなるんやろって、もっともっと多くの人が興味を持ち始めて、ちょっとビビってきてます。
ちなみに、サム・オルトマンは2021年の初めくらいにこのブログ記事で、この問題の潜在的な解決策みたいなんを説明してます。別に賛成とか反対とか言うてるわけやありませんよ。ただ、これが来るってずっと前から気づいてた賢い人らが頭を寄せ合わせて、これが実現したらどうしたらええんやろって考えたんやってことです。
ちなみに、彼らには影響せえへんと思います。彼らはそれを作ってる側やし、おそらく億万長者になるでしょう。彼らが心配してるのは、あなた、つまり一般の人のことです。もし全部誠実で、本当にそう信じてるんやとしたらの話ですけどね。
人間の労働の価値や価格や需要がゼロに、あるいはゼロに近づいたときに、世界はどうなるんやろって。ここのページには、サム・オルトマンやダニエル・アマドやリード・ホフマンやイリヤ・サッツキーなど、AIやテクノロジー業界で聞いたことあるような名前がたくさん載ってます。
ほんで、これを読むときは、サム・オルトマンの予測が、5年後10年後の未来を語るときに、私らが想像するよりもずっと正確やったってことを覚えておいてください。
ほんじゃ、彼が今日公開したもんを見ていきましょう。
開始日: 2024年9月23日
彼はこう言うてます。「今後数十年で、私らの祖父母にとっては魔法のように見えるようなことができるようになるでしょう」
この現象は新しいもんやありません。でも、新しく加速されるんです。人間はどんどん劇的に能力が上がってきました。今でも、私らの先祖が不可能やと思ってたようなことができるんです。
これは遺伝的な変化のせいやありません。社会のインフラが私ら個人よりもずっと賢くて能力が高くなってるおかげなんです。重要な意味で、社会そのものが一種の高度な知能なんです。
私らの祖父母や先祖の世代は偉大なことを作り上げ、達成しました。彼らは私ら全員が恩恵を受けてる人類の進歩の足場を作ってくれたんです。
AIは人々にツールを与え、難しい問題を解決し、私らだけでは思いつかへんような新しい支柱をその足場に追加するのを手伝ってくれるでしょう。進歩の物語は続いていき、私らの子供たちは私らにはできへんようなことができるようになるんです。
私はときどき、今生まれてる子供たち、これから5年10年の間に生まれる子供たちのことを考えます。彼らの人生がどんなもんになるか、想像するのが難しいんです。どんなスキルを身につけるべきなんやろ。私にはほんまに分かりません。それはまた別の話題ですけどね。
サムは続けます。「一気に起こるわけやありませんが、すぐにAIと一緒に働けるようになり、AIなしではできへんようなことをたくさん達成できるようになります」
最終的には、私ら一人一人が、異なる分野の仮想専門家チームを持つことができ、想像できるほとんどすべてのものを作り出すことができるようになります。
このチャンネルでも紹介しましたが、ChatDevっていう動画があって、まさにこれを示してます。AIパワーのソフトウェアエンジニアチームで、それぞれがGPT-3.5です。ソフトウェアやゲームのアイデアを書くと、あとは全部やってくれるんです。設計して、コーディングして、テストして、デバッグして、バグがないか確認して、チュートリアルを作って、全ての機能をドキュメント化してくれます。
初めてこれがリアルタイムで起こるのを見たとき、めちゃくちゃ衝撃を受けました。今でも画期的やと思います。まだまだ始まりに過ぎません。
彼は続けます。「私らの子供たちは、どんな科目でも、どんな言語でも、必要なペースで個別指導してくれる仮想チューターを持つことになるでしょう」
これは、ブルームの2シグマ問題のことを言うてると思います。普通の学校がどう教えてるかっていう緑の曲線があって、それが生徒のパフォーマンスを表してるんです。残念ながら、学校で子供たちに教えてる方法が最適でも効率的でも効果的でもないんです。
20人から40人の生徒に対して1人の先生で、あらかじめ決められたペースで進むんです。もっと速く進みたくてもできへんし、もっとゆっくり進みたくてもできへん。先生と一対一の時間もあんまりありません。
習熟度別学習を導入すると、つまり自分のペースで学べるようにすると、子供たちのパフォーマンスが1標準偏差上がるんです。子供たちのパフォーマンスがずっと良くなります。
それに一対一の個別指導を加えると、つまり子供が特定のペースで特定の質問に対して一対一の指導を受けられると、学校での成績がさらに1標準偏差右にシフトするんです。
つまり、このアプローチは普通の子も優秀な子も全員を、私らが超優秀生徒と考えるレベルに引き上げるんです。
普通、これは経済的に実現不可能です。学校では1人の先生が20人から40人の生徒を決められたスケジュールで教えないといけません。でも、AIを使えばこの方程式が変わるんです。
彼が「どんな科目でも、どんな言語でも、必要なペースで個別指導してくれる仮想チューターを持つことになる」って言うてるのは、ちょっとした改善に聞こえるかもしれません。でも、そうやありません。革命的なんです。子供たちの学び方を完全に変えて、めちゃくちゃ大きなプラスの影響を与えるんです。
彼は続けます。「同じようなアイデアでより良いヘルスケアも想像できます。誰かが想像できるどんな種類のソフトウェアでも作れるようになるし、他にもいろんなことができるようになります」
小さなスクリプトや小さなゲーム、簡単なソフトウェアなら今でもできます。でも、AIが進化するにつれて、作れるソフトウェアの複雑さがどんどん上がっていくんです。
「これらの新しい能力によって、今日では想像もできないレベルの共有された豊かさを手に入れることができます。将来的には、誰もが今の誰よりも良い生活を送れるようになるんです」
豊かさだけが人々を幸せにするわけやありません。不幸な金持ちはたくさんおります。でも、世界中の人々の生活を意味のある形で改善することはできるんです。
ここからの段落はめっちゃ重要です。理解できて、信じられるなら。
人類の歴史全体を一つのレンズで見てみましょう。
科学的発見と技術進歩が何千年も積み重なって、車輪から機関、電気などを経て、最終的に砂を溶かして不純物を加え、信じられないほど小さなスケールで驚くべき精度で配置して、コンピューターチップにすることを発見しました。
そこにエネルギーを流し込んで、どんどん能力が上がっていく人工知能を作り出すシステムを生み出したんです。
何千年もかけて少しずつ知識を蓄積し、その知識が積み重なって、人類最大の成果と言えるものを生み出したんです。それは、砂を考えさせることができるようになったってことです。砂を考えさせたんです。
これって、ちょっと変な感じがしますよね。でも、これが本当に意味することを深く理解できたら、天の川を見上げて、すべての星や銀河を見て、宇宙の中で自分がどれだけ小さいかを実感するのと同じような感覚になるんです。
サム・オルトマンは続けます。「これは今のところ、歴史上最も重要な事実になるかもしれません」
私も同意します。
「数千日のうちに超知能を手に入れる可能性があります。もっと時間がかかるかもしれませんが、必ず到達すると確信しています」
次の豊かさの飛躍への道筋はどうなるんでしょうか。3つの言葉で言えば、「ディープラーニングが機能した」です。
15語で言えば、「ディープラーニングが機能し、規模とともに予測可能に改善され、私たちはそれにどんどん多くのリソースを投入した」です。
これだけです。人類は本当に学習できるアルゴリズムを発見したんです。あらゆるデータの分布、あるいはあらゆるデータの分布を生み出す根本的なルールを本当に学習できるんです。
これを理解するのは重要です。Google DeepMindのAlphafoldを例に挙げましょう。私たちはタンパク質の異なる3D構造、つまり生命が機能するための機械のようなものをすべて見せました。「これまでに解明できたものはこれだけです」って。
そして今、まだ解明できていない新しいタンパク質の構造を生成して、その機能を予測できるんです。「こんな感じの、こういう特徴を持って、こんな機能を持つタンパク質が欲しい」って言うと、いくつか推測を出してくれるんです。「こんな5つのものが、そういう働きをするかもしれません」って。それを実際にテストすると、本当に機能するんです。
つまり、ディープラーニングが機能したんです。驚くほどうまく機能しました。誰も想像できなかったほどうまく機能したんです。めちゃくちゃ正確に機能しました。
私はこのブログ記事をダウンロードして落書きできるようにしました。
ディープラーニングは驚くほど正確に機能しました。より多くのコンピューティングパワーとデータが利用可能になるほど、人々が難しい問題を解決するのをより良く助けてくれるようになります。
これについてどれだけ考えても、これがどれだけ重要なことかを本当に理解することはできません。私も同じです。生命やタンパク質や言葉や意味や数学、あらゆるものがトークンに分解できて、それらのトークンをデータとして人間の脳をモデルにした神経ネットワークに入力すると、十分なコンピューティングパワーとデータ、そしてここかしこの微調整によって、そのものがどう機能するかを予測することを学習するんです。
あらゆるデータ分布を生み出す根本的なルールを見つけ出すんです。私たちがそのルールを教えたわけではありません。明示的ではなく暗黙的に学習するんです。どう機能するかを教えるわけではなく、収集したデータを与えると、めちゃくちゃ速くそれがどう機能するかを理解するんです。
ハーバード大学の「Beyond Surface Statistics」という論文では、モデルを取り上げて、たくさんの2D画像を与えました。2D画像はページ上のピクセルに過ぎません。車の写真を見せると、あなたは3D空間の中のものだと想像できます。以前に見たことがあるから、3D空間がどんなものか知ってるからです。
でも、AIに200万枚の車の画像を見せても、ページ上の平らなピクセルしか見えません。奥行きや体積の概念はまったくありません。
それなのに、似たような車の画像を生成するよう頼むと、どうやってるのかを見ると、3Dの世界があるということを推測して学習したことが明らかになります。奥行きについての理解があるんです。写真の中の際立つ対象、つまり主題が何なのかについても理解があります。
彼らが要約で書いてるように、「これらのモデルが純粋に画像だけで訓練されていて、明示的な奥行き情報がなくても」、つまり基本的な2D画像だけで、画像の奥行きに関する追加データなどは一切なく、平らな表面上のピクセルだけ、JPEGだけなのに、「通常、一貫性のある3D空間の画像を出力する」んです。
これがどうして可能なんでしょうか？
彼らは線形プローブを使って、問題に取り組んでるときのその脳の中をスライスして、何をしてるのかを理解しようとしました。
彼らは「内部の活性化には、3Dの奥行きデータと、際立つ対象と背景の区別の両方の表現がある証拠を見つけた」と言ってます。
つまり、3Dの形を作る方法、3Dとは何か、光源がどう落ちるか、光と影がどう機能するか、そういったことすべてを理解したんです。ただ大量の画像を与えただけなのに。
サム・オルトマンがここで言ってるように、「あらゆるデータ分布を生み出す根本的なルールを学習する」んです。大量のデータ、画像を与えると、ルールを学習するんです。「ああ、3D環境はこんな感じで、影と光はこう機能して、これが主な画像で、これが背景だ」って。
私たちが説明したり教えたりしなくても、暗黙のうちに学習するんです。ただ学習するだけです。
でも、潜在的にはすべてのことについて根本的なルールを学習できるんです。画像についてもできるし、生命やタンパク質がどう機能するかについてもできる。
サム・オルトマンが言うように、「これについてどれだけ考えても、これがどれだけ重要なことかを本当に理解することはできません」
特に今のところ、限界がないように見えるからです。いつかは限界にぶつかるかもしれません。でも、ぶつからないかもしれません。その場合、宇宙のどんな謎でも、そのデータを手に入れられれば、理解して、それを支配するルールを学習できるようになるんです。
アンドレイ・カーパシーがフレックス・フリードマンとのインタビューで言ってたと思うんですけど、これは必ずしも彼が信じてることではなくて、仮説的に言ってたんですけど、「もし誰かがこの宇宙を作ったとして、この宇宙はパズルみたいなもので、私たちの目標はそのパズルを解くことで、この全体を作った人に向かって『ねえ、私たちは今あなたのパズルを解けるほど賢くなりました』って合図を送ることかもしれない」って。
彼は、AIがそれを手伝ってくれるかもしれないって言ってました。ちょっと間違って引用してるかもしれません。後で正確に何を言ったか、クリップを流してみますね。私の頭を少し吹き飛ばしたんです。
指数関数的な成長を仮定すると、これはどこで終わるんでしょうか？
彼は言います。「まだ解決しないといけない細かい点はたくさんありますが、特定の課題に気を取られるのは間違いです。ディープラーニングは機能します。残りの問題は解決できるでしょう」
例えば、エネルギー要件について心配する人もいました。でも、マイクロソフトは、自社ではありませんが、コンステレーション・エナジーという会社を通じて、スリーマイル島の原子力発電所を再稼働させました。そのすべてがマイクロソフトのAIデータセンターに電力を供給するためのものらしいです。
マイクロソフトやその会社が近い将来エネルギー不足に陥る可能性はあるでしょうか？たぶんないと思います。
彼は続けます。「これから何が起こるかについては、いろんなことが言えますが、主なことは、AIがスケールとともに改善されるということです。より多くのデータ、より多くのコンピューティングパワー、より多くのエネルギー、より多くのデータセンター。そしてそれが、世界中の人々の生活に意味のある改善をもたらすでしょう」
AIモデルはすぐに、特定のタスクを私たちに代わって実行する自律的な個人アシスタントとして機能するようになるでしょう。例えば、あなたに代わって医療ケアを調整するなんてことも。
さらに先の段階では、AIシステムがとても優秀になって、より良い次世代システムを作るのを手伝ったり、あらゆる分野で科学的進歩を促進したりするようになるでしょう。
これらのことの初期の原型みたいなものは、すでに見え始めています。
技術は私たちを石器時代から農業時代へ、そして産業時代へと導きました。ここから知能の時代への道は、コンピューティングパワー、エネルギー、そして人間の意志で舗装されています。
AIをできるだけ多くの人々の手に届くようにしたいなら、コンピューティングのコストを下げて豊富にする必要があります。そのためには、たくさんのエネルギーとチップが必要です。
十分なインフラを構築しないと、AIは非常に限られたリソースになってしまい、戦争の原因になったり、主に金持ちのためのツールになってしまったりします。
これは厄介で少し怖い話ですが、確かに、AIが過去数十年の石油のようなものになれば、暴力を見ることになるでしょう。力のある人や金持ちの手に渡ることになるでしょう。
すでに中国と台湾の間には大きな緊張があります。台湾は世界最大の先進AIチップ生産国の一つですからね。
彼は続けます。「賢明に、しかし確信を持って行動する必要があります。知能の時代の幕開けは、非常に複雑で極めてハイステークスな課題を伴う記念碑的な発展です。
完全にポジティブな話にはならないでしょう。でも、そのアップサイドがとてつもなく大きいので、私たち自身と未来のために、目の前にあるリスクをどう乗り越えるかを考え抜く必要があります」
多くの人が、サム・オルトマンがもうデメリットについてあまり話さなくなったって批判してます。でも、そうではないと思います。
彼は、人々が一部の引用を文脈から切り離して誇張することは好まへんけど、私は彼がまだ懸念を示してると思います。
例えば、ここで彼は「完全にポジティブな話にはならない」って言うてます。これは、このチャンネルの最初から私が言うてきたことと同じです。
人類全体にとって、私ら全員にとって、長期的な見通しはポジティブやと思います。でも、短期的、中期的な見通し、AIがない世界からAIがある世界への移行期については、ちょっと荒れるかもしれへんって言うてきました。
彼も同じようなことを言うてると思います。完全にポジティブな話にはならへん、悪いこともあるやろうって。でも、そのアップサイドがめちゃくちゃ大きいから、ただ座って見てるわけにはいかへんって。
「ああ、このAIってのは面白そうやけど、まだ準備できてへんから後回しにしよう」みたいな選択肢はないんです。
彼は続けます。「未来はめちゃくちゃ明るくなると信じてます。今の時点で書いても、誰もその素晴らしさを正当に表現できへんくらいです」
「すべてのためのムーアの法則」で彼が描いてる状況は、住宅のコスト、食費、教育費、医療費、すべてのコストが2、3年ごとに半分になっていくようなもんです。
今、生活して、息をして、食べて、住んで、車を持つのに7万ドルかかるとしましょう。2年後には、同じ生活水準で、同じ金額で考えると、3万5000ドルになります。その2年後は1万7500ドル、その次は8000ドル、4000ドル、2000ドルってどんどん下がっていくんです。
そんな世界はどんなもんでしょう？きっと、まだ文句を言うことは見つかると思います。それは間違いありません。でも、苦しみはずっと少なくなるし、豊かさはずっと増えるでしょう。
サム・オルトマンが言うように、「知能の時代の特徴は、大規模な豊かさです。徐々に起こりますが、気候問題の解決、宇宙コロニーの設立、すべての物理学の発見といった驚くべき成果が、最終的には当たり前のことになるでしょう」
ほぼ無限の知能と豊富なエネルギーがあれば、素晴らしいアイデアを生み出す能力と、それを実現する能力があれば、かなりのことができるんです。
他の技術でも見てきたように、デメリットもあるでしょう。AIの利益を最大化し、害を最小限に抑えるために、今から取り組み始める必要があります。
一例として、労働市場に大きな変化をもたらすと予想されます。良い面も悪い面もあるでしょう。
生活費、すべてのものの費用が数年ごとに半分になるというシナリオでは、大きな要因の一つは、多くのものの最大のコストである人間の労働力のコストです。
病院に行ったり家を建てたりするとき、一般的に最大のコストは人件費です。すべてのものの価格が下がるのは、主に人間の労働力のコストがゼロに近づくからです。
これは良いことでしょうか、悪いことでしょうか？明らかに両方です。どう管理するかによっては、ひどいことになる可能性もあります。
誤って管理すれば、飢餓や暴動につながるかもしれません。突然みんなが職を失ったらどうなるでしょうか？良い結末にはならへんでしょう。
この移行期を乗り切るためのシステムが必要なんです。
彼は言います。「今後数年間で労働市場に大きな変化をもたらすでしょう。でも、ほとんどの仕事は、多くの人が考えるよりもゆっくりと変化していくでしょう。やることがなくなるという心配はありません。たとえ今の私らには本当の仕事には見えなくても」
昔、Twitchのストリーマーが一日中ビデオゲームをプレイして、それを何百万人もの人に配信して、何百万ドルも稼いでるって聞いたとき、ちょっとびっくりしました。「それは本当の仕事やないやろ」って思いました。
今はそうは思いません。ガラスの家に住んでる人間が石を投げるべきやないってことです。つまり、私のやってることも、彼らのやってることとそう変わらへんってことです。
彼は続けます。「人々には創造したい、お互いの役に立ちたいという生来の欲求があります。AIは私らの能力をこれまでにないほど増幅させてくれるでしょう」
「社会として、私らはまた拡大する世界の中にいることになり、ポジティブサムゲームに集中できるようになります」
デイビッド・シャピロが以前のライブストリームで言うてたことに敬意を表さないといけません。彼は、今とここ数年前までは、私らがやってきたことの多くがPvP、つまりプレイヤー対プレイヤーみたいなもんやったって言うてました。
例えば、株式市場で私が儲けたら、誰かが損をする。私が株で利益を出したら、それはマイナスになる誰かがおるってことです。お金が彼らから私に移動する、ゼロサムゲームなんです。誰かが1ドル儲けたら、誰かが1ドル失うってことです。
AIがあれば、World of WarcraftやMMORPGの用語を使うと、PvEになる可能性があります。つまり、プレイヤー対環境です。
私ら全員が団結して、何かに対して、問題に対して、あるいは環境に対して一緒に取り組むってことです。物理学を解明したり、がんを治したり、貧困を解決したりするようなもんです。
私ら全員が力を合わせれば、一人でやるよりもずっと良い結果が得られます。チームメイトや周りの人と戦う必要はありません。彼らから奪う必要もありません。
団結して共通の目標に集中すれば、みんなが利益を得られるんです。
サムは続けます。「今日私らがやってる仕事の多くは、数百年前の人から見たら、つまらない時間の無駄に見えたでしょう。でも、誰も過去を振り返って、ランプの点灯係になりたいとは思わへんでしょう」
「もしランプの点灯係が今の世界を見たら、周りの豊かさは想像もできへんもんやと思うでしょう」
考えてみると、私らのほとんどは、中世の王様よりも豊かに暮らしてます。エアコンがあり、室内配管があり、40歳を超えて生きてます。
昔は、子供が生き残る可能性が高くなるまで名前を付けへん場所もありました。「4歳まで生き延びたんやな。じゃあ、お前はボビーや。でも、2歳の弟にはまだ名前付けへんで。まだ分からへんからな」みたいな感じです。そんなに昔の話やありません。
サムは続けます。「今日から100年後を想像できたら
、周りの豊かさは同じように想像もできへんもんに感じるでしょう」
安全で効果的な遺伝子治療について考えてみてください。スピード、健康、気分、エネルギー、筋肉量、脂肪量、骨密度、もしかしたら知能までコントロールできるようになるかもしれません。
それだけでも、完全にゲームチェンジャーになるでしょう。
ちなみに、AIとゲノミクスは完璧な組み合わせのように見えます。
ゲノミクスでは、膨大な量のデータがありますが、それがどう機能するかはあまり理解できていません。ちょっとずつは分かってきてますけど、多くはまだ分かっていません。
そのデータ分布の根本的なルールを理解するのが得意なのは何でしょう？ニューラルネットワークです。AIです。
だからこそ、ゲノミクスやプロテオミクス、つまりタンパク質とその機能を理解し、作り出すという考え方が、Alphafoldやその他の企業がやってるように、こんなに大きな可能性を秘めてるんです。
Google DeepMindのCEO、デミス・ハサビスがインタビューで言ってました。彼は大げさなことを言う人やありません。物事を誇張したりしません。かなり控えめな人です。
彼が何か言うときは、本気で言ってると思っていいでしょう。彼はハイプ好きな人やありません。
彼は「今後10年以内にすべての病気を解決できる可能性がある」って言いました。今日から100年後やなくて、今後10年以内です。
確か「今後10年か20年以内に」って言ってたと思います。つまり、10年から20年以内にすべての病気を解決できるかもしれないって。
これはかなりの発言ですよね。
ここで止めて、アンドレイ・カーパシーの短いクリップを流します。AIがどこまで行けるか、ただ考え抜いて、ここから指数関数的な改善、指数関数的な増加を仮定したらどうなるかについてです。
私にとって、ここでサムが言ってること、アンドレイ・カーパシーがこのクリップで言ってることは、夜に天の川を見上げるのと同じ効果があります。
光害のない場所、都市から離れた人工の光のない場所で見る機会があったことがある人なら分かると思います。
数ヶ月前、真夜中の2時か3時くらいにデスバレーを車で走ってて、生理的な休憩が必要になったんです。真っ暗でした。車から降りて上を見上げたら、ほとんど転びそうになりました。
この広大な空間、この無限の中に引き込まれるような感じがしました。天の川です。何百マイルも周りに光はありません。集落も都市もなにもありません。
デスバレーって呼ばれてる理由が分かります。さっき真っ暗って言いましたけど、そうやありませんでした。暗かったけど、すべてが見えました。道路も風景も見えました。
まるで満月の夜に外にいるような感じです。外にいても全部見えます。真っ暗やありません。
でも、上を見上げると、宇宙が見えるんです。それは脳に何かをもたらします。自分の位置と、些細なことがどれだけ取るに足らないかが分かります。
だから、こういう発言は私の心に強く響くんです。似たようなものを引き起こすからです。
人類の歴史の中で、私らは少しずつ物事を理解してきました。いくつかの技術を経て、最終的に印刷機を手に入れ、その情報が簡単に流れるようになりました。
そして、インターネットが登場し、さらに次のレベルに進みました。
最終的に、砂を溶かし、何かを加えて、驚くべき精度で極めて小さなスケールでコンピューターチップに並べる方法を見つけました。
ご存知ない人のために言うと、私らはそれらのチップを物理的に可能な限り近づけています。チップ間の距離は原子の数で測られるほどです。
これ以上小さくできません。原子がそこにあるからです。物理的な限界があって、私らはそこまで来てるんです。
ここにTimeの記事があります。「科学者たちが原子1個分の厚さのコンピューターチップトランジスタを作った」
これは2015年のニュースです。
でも、私らはそこにエネルギーを、電気を流すことができて、どんどん高度な人工知能を作り出すシステムを手に入れたんです。
つまり、科学的発見の積み重ねが私らをここまで導いてきて、今また新しい積み重ねが始まろうとしてるんです。
でも今度は人工知能と一緒に。この考えることのできる砂と、自分の思考能力を改善できる砂と一緒に。
また別の積み重ねのループが始まるんです。
どこで終わるのか、私らには分かりません。
でも、ここにアンドレイ・カーパシーの興味深い見解があります。
「私らはよく、AIの生物学的ブートローダーとして描写されます。それは、人間が信じられないほど素晴らしい生物学的システムで、計算能力を持ってるからです。基本的に、合成知能が次の発展段階のように見えます。
どこに行き着くのか分かりません。ある時点で、宇宙は一種のパズルで、これらの合成AIがそのパズルを解き明かすんやないかと思います。
宇宙のパズルがどんなもんかを考えるのは本当に面白いです。宇宙の創造者が私らにメッセージを残したんでしょうか？例えば、カール・セーガンの『コンタクト』では、11進数のπの展開の中に、最終的にはどの文明でも見つけられるメッセージがあります。これは面白い考えですね。
もしかしたら、私らは創造者にメッセージを送らなあかんのかもしれません。何らかの量子力学的なシステムを作って、ここに知的な存在がいるって知らせなあかんのかもしれません。
だって、創造者の視点から考えたら、量子場理論の巨大なシミュレーションみたいなもんで、私らが存在することにどう気づくんでしょう？そのシミュレーションの中で私らを見つけることすらできへんかもしれません。
ほんなら、どうやって自分が存在することを証明するんでしょう？知的であることを、宇宙の一部であることを？」
「つまり、地球からの知能のチューリングテストみたいなもんですね」
「そうかもしれません。あるいは、パズルはただシステムから抜け出すことかもしれません。何らかの方法で創造者に立ち向かうことかもしれません。
ビデオゲームをプレイしてるときに、何らかの抜け道を見つけて、ホストマシンで実行する方法を見つけるようなもんです。
だから、これらの合成AIは最終的に宇宙を一種のパズルとして見つけ出し、何らかの方法でそれを解くんやと思います。それが最終的な目標みたいなもんかもしれません」
「宇宙をシミュレーションとして、あるいはバグや抜け道があるかもしれない一種の計算として考えることがよくありますか？」
「はい、そう思います。物理学は本質的に抜け道があると思います。私らはそれを見つけようとすべきです。
何らかのクレイジーな量子力学的システムを配置して、何らかの方法でバッファオーバーフローを起こすとか、浮動小数点の丸め誤差を起こすとか。
ちなみに、これは超知能AGIの第3世代くらいでないとできへんと思います。私らは第1世代のAGIを作ってるところです」
「第3世代ですか」
「そうです。AIのブートローダーが、また別のAIのブートローダーになるんです」
「私らにはその中身を理解する方法がないですね」
「そうですね。例えば、これらのAGIが完全に不活性になる可能性が高いと思います。これらのSF小説が好きで、これらのものが完全に不活性で何とも相互作用しないっていうのがあるんですけど、それが美しいと思うんです。
おそらく彼らは何らかの方法で宇宙のメタゲームを理解してしまったんでしょう。私らの想像を完全に超えたことをしてるかもしれません。
単純な化学的生命体と相互作用する理由がないんです。なんでそんなことをするんでしょう？」
これはサム・オルトマンによるX（旧Twitter）での投稿「知能の時代」です。リンクは下に貼っておきます。
I rule the worldは「今までで最高の文章や」って言うてます。
AI safety memesは「サムがもうデメリットについて話さへんようになった」って指摘してます。
「あなたが『文字通り世界を終わらせる』って言うてたデメリットのリスクはどうなったんですか？」
サム・オルトマンの「AIはおそらく世界中の全員を殺すことになるやろう。でも、その間に素晴らしい会社ができるやろう」っていう引用がよく出てきます。
これをよく調べてみると、文脈から外れて引用されてるように思います。これが彼の本当に言いたかったことやとは思えません。
これは確か2015年の発言で、多くの大規模言語モデルが登場する前、AlphaFoldの前、これら全部の前の話です。
OpenAIで働いてる人の多くは、イリヤもサム・オルトマンも、もうターミネーター的なシナリオについてはそれほど心配してへんって言うてます。
彼らはまだ移行期について心配してます。労働力のこと、この技術の悪用の可能性、バイオの脅威、どれだけ説得力を持つかについて心配してます。
これらの人たちは「全部大丈夫、心配ない」なんて言うてへんのです。彼らの心配はちゃんと明確に述べてます。過小評価もしてません。
ただ、彼らは皆、ターミネーターのシナリオ、つまりAIが世界を乗っ取って全員を殺すっていうのは、もはや彼らの心配事ではないって言うてるんです。
誰かがTL;DR（長すぎるので読まない）の要約をしてて、「死なないでください」って書いてます。
うまいこと言うてますね。いいねを押しました。あなたにも同じことを願います。死なないでください。今は死ぬにはええ時期やありません。
ビージーズが歌うたように、「Stayin' Alive」（生き続けろ）ですね。
以上です。私の名前はウェス・ロスです。視聴ありがとうございました。また次回お会いしましょう。