イーロン・マスク "サム・オルトマンを信用するな" | 衝撃的なインタビュー

7,084 文字

ワイ、サム・オルトマンを信用してへんねん。せやし、世界で一番強力なAIを、信用できへん人間に任せるんは望ましくないと思うわ。ごめんやけど、そう思うねん。
ワイの考えはな、意識の範囲と規模を広げるべきやと思うねん。もっと人間を増やし、もっと思考を増やすべきやと。それに、機械の意識についても議論の余地があるかもしれへんな。
ワイの予想ではな、80%くらいの確率で良いもんになるんちゃうかな。もしかしたら90%くらいかもしれへん。たぶん素晴らしいもんになるやろ。でも、10〜20%くらいの確率で人類滅亡の可能性もあるわな。
現実を見てみいや。好むと好まざるとにかかわらず、我々は超知能AIを作ってるんや。人間の理解を超えるような、超々知能なAIをな。
イーロン・マスクの最新インタビューでは、近づきつつあるAGI（汎用人工知能）について触れてるんや。彼は、P Doom（完全なる破滅の確率）についての最新の予測を語ってる。これは、生命、宇宙、そして全てのもんが完全に消滅する可能性のことやな。それに、サム・オルトマンがこの中でどんな役割を果たすんかについても触れてる。
最後の方では、エイリアンと神についても少し話してるで。まずは、AIの進歩の速さと、来年にも起こり得ることについての彼の話を聞いてみよか。
人工知能、機械知能は良いもんかもしれへんって言うてはったけど、今のAIの状況はどないなんですか？ それに、あんたの意見も教えてください。
この時点では、AIが非常に速いペースで進歩してるのは誰の目にも明らかやと思うわ。毎月、時には毎週、新しい能力が出てくるのを見ることができるやろ。
今のAIは、おそらく90%、もしかしたら95%の人間よりも優れたエッセイを書くことができるんや。どんなテーマでも、エッセイを書けって言うたら、AIは大多数の人間を上回る能力を持ってるわ。
絵を描けって言うても、AIは信じられへんほど素晴らしい画像を作り出すんや。例えば、Mid Journeyの美学は驚くべきもんやけど、それを上回るような画像を即座に作り出すことができるんや。90%のアーティストよりも優れた作品を、たった30秒で作り出すんや。
AI映画も出始めてるな。短編映画やAI音楽の制作も見られるようになってきた。AIの計算能力の増加率は指数関数的、いや超指数関数的なもんや。毎月劇的に多くのAIコンピューティングがオンラインになってきてる。
大まかに言うとな、AIコンピューティングの量は年間500%くらいのペースで増加してるんやないかな。これは数年間続くと思われる。そして、AIアルゴリズムの洗練度も向上してる。
つまり、大量のAIコンピューティングをオンラインにしつつ、同時にコンピューティングの効率も向上させ、AIソフトウェアの能力も向上させてるんや。量的にも質的にも改善が進んでるってことやな。
ワイの予想では、来年には、AIに短い映画を作らせることができるようになるやろ。少なくとも来年の終わりまでには、15分くらいの番組を作れるようになるんちゃうかな。
もちろん、AIによる映画制作には大きな進歩が見られてるわ。最新のMetaのリリースを見てもわかるやろ。AIによる動画生成の品質が非常に良くなってるだけやなく、それをコントロールし、細かく調整する能力も大幅に向上してるんや。
Metaの最新リリースでは、自分や他の人の写真を追加するだけで、どんな場所でも、どんな服装でも、好きな行動をさせた個人用の動画を生成できるようになってる。これは多くの人々にとって懸念材料になってるな。誤情報や他の悪意のある目的に使われる可能性があるからや。
最近では、AIの推論能力にも大きな進歩が見られた。国際数学オリンピック（IMO）で金メダルに近い成績を収めたんや。これは多くの人にとって、AIが潜在的に懸念すべき閾値に近づいたと見なされてる。
マイクロソフトはスリーマイル島の原子力発電所の再稼働に一役買ったんや。より多くのコンピューターがオンラインになってるだけやなく、エネルギーのボトルネックなどの問題にも解決策が見つかってきてる。同時に、アルゴリズムもどんどん改良され、効率が上がってきてるんや。
最近、OpenAIが01アルゴリズムを公開した。これは答える前に「考える」能力、目に見えない思考の連鎖を持つ能力やな。これにより、推論能力が大幅に向上した。答える前に「考える」時間が長ければ長いほど、数学や物理、長期的な計画立案などの能力が向上することが示されてるんや。
次に、イーロンはP Doom、つまり破滅の確率について話してる。これは全てのものと全ての人が完全に消滅する可能性のことや。多くの人にとっては、驚くほど高い確率に思えるかもしれへんな。
ワイはこれを、超天才の子供を持つようなもんやと考えてる。その子が自分よりもはるかに賢くなることがわかってる場合、何ができるやろか。その子を育てる中で、良い価値観を植え付けることはできるやろ。
たとえその子が自分よりも賢くなることがわかってても、良い価値観、慈善的な価値観、良い道徳心、正直さ、生産性といったものを身につけさせることはできるんや。
結局のところ、ワイらにはコントロールできへんと思う。できる最善のことは、それが良い価値観を持って成長するようにすることやな。
あんた、それをずっと言い続けてきはったよな。
そうや、ずっと言い続けてきた。
2年前に聞いたときと同じくらい心配してはるんですか？
ワイの予想では、80%くらいの確率で良いもんになると思うわ。もしかしたら90%くらいかもしれへん。グラスが80%満たされてるって考えてもええかもしれへんな。たぶん素晴らしいもんになるやろ。でも、人類滅亡の可能性もあるんや。
人類滅亡の可能性は20%くらいやと思う。10〜20%くらいかな。
次に、彼はOpenAIとサム・オルトマンについて話してる。ご存知かもしれへんけど、彼はOpenAIの資金提供と立ち上げを手伝い、OpenAIという名前をつけたんや。「オープン」という言葉をタイトルに入れて、オープンソースを意味するようにしたかったんや。
それは非営利のちっちゃな研究所で、AGIを開発することになってた。オープンソースで、Googleに対抗するためのものやったんや。ちなみに、後でGoogleについても話すけど、彼らはAIの基盤を長い間築いてきたんやて。
サム・オルトマンは人類滅亡についてどれくらい心配してると思う？
実際のところ、彼は心配してへんと思うわ。ワイはOpenAIを信用してへん。あの会社を非営利のオープンソースとして始めたんや。
そうや、オープンがOpenAIの名前に入ってるのは、ワイがつけたんや。OpenAIはオープンソースやったんや。今や完全にクローズドソースになって、利益を最大化しようとしてる。
どうやって、オープンソースの非営利団体から、クローズドソースの利益最大化組織になったのか、ワイにはわからへん。でも、サム・オルトマンは金持ちになったんやろ？
彼は何度か、金持ちになってへんって主張してきたけど、多くの虚偽の主張をしてきた。今や100億ドルの株を得るらしいで。
ワイはサム・オルトマンを信用してへんし、信用できへん人間に世界で一番強力なAIのコントロールを任せたくないんや。ごめんやけど、そう思うねん。
それは正当な懸念のように思えますね。
でも、彼を知ってて、彼と付き合いのあるあんたとしては、これが制御不能になって人々を傷つける可能性について、彼が心配してると思わへんの？
彼はそういう言葉を口にするやろうけど、本当にそう思ってへんと思うわ。
次に、彼は人間の労働力のほとんどがAIとロボットに置き換えられ、人間の労働に対する支払いがゼロに近づいた場合、世界と社会がどうなるかについて少し話してる。
皆が早期退職の準備ができてるかどうかやな。もちろん、イーロンは常に働き続けると思う。何があっても止まらへんやろう。でも、我々他の人間はどうなんやろか。ただくつろいでレジャータイムを楽しむだけでええんやろうか。イーロンの考えを聞いてみよか。
良性のAIシナリオで、みんなは何をして生きていくんやろう。たぶん、それが一番大きな課題やな。AIが全てにおいて自分よりも優れてる場合、どうやって人生の意味を見出すんやろか。
それが良性のシナリオや。良いニュースやな。
でも、多くの人は退職することを楽しみにしてるんやないかな。あんたは楽しみにしてへんの？
ワイ？ いや、ワイはそうやない。ワイは有意義なことをしたいと思ってる。
それは普遍的な欲求やと思わへん？
普遍的ではないな。確かに、責任から解放されてレジャー活動に没頭したいと思ってる人もおるやろう。
もしAIが制御不能になって人類に脅威を与えることが明らかになった場合、それを止める方法はあるんやろうか？
あればええと思うわ。複数のAIがあって、うまくいけば良いAIが悪いAIよりも強くなるんやないかな。
AIどうしの戦いってことか。
そうや。今のチェスがそうなってるやろ。AIのチェスプログラムは人間をはるかに上回ってる。完全に上回ってるんや。もはや、なぜその手を指したのかさえ理解できへんくらいや。
あまりにも優れてるから、なぜその手を指したのかわからへん。一見ミスのように見える手を指すけど、結局チェックメイトになるんや。
しばらくの間は、最高のチェスプレイヤーと最高のコンピューターの組み合わせがコンピューター単体に勝てたけど、やがて人間が加わると全てが悪くなる時代が来て、今ではコンピュータープログラム同士の対決になってるんや。
全般的に物事はそういう方向に向かってると思う。いつになるかはわからへんけどな。
ワイらがすべきなんは、AIに良い価値観を植え付けることやと思う。
イーロンは、多くの人がAIについて考え始める前から、AIの危険性について語ってきた。彼のレーダーにAIが引っかかったのはかなり前やった。そして、彼だけがそれについて考えていたわけやないってことがわかるで。
オバマ大統領の時代、ワイは何度もオバマに会ったけど、たいてい集団でやった。一対一で会ったのは一度だけや。オーバルオフィスでな。その時、ワイはこう言うたんや。「AIの規制機関の基礎を作る必要があります」って。
最初は規制を急に出すんやなくて、洞察から始めればええ。AIの規制委員会が、まず全ての企業が何をしてるのかを理解することから始める。そして、全てのAI企業が従うルールを提案するんや。NFLのスポーツチームみたいなもんやな。フットボールのルールを提案して、みんながそれに従うことで、ゲームがより良くなる。そういうやり方がええと思うんや。
でも、結局何も変わらへんかった。彼はどう言うたん？
彼は賛成してるように見えたけど、その時点では、人々はAIがどこに向かってるのか理解してへんかったんやろな。AIは超未来的なもの、完全にSFの世界の話やと思われてた。
ワイは「これは最も賢い人間よりも賢くなるんです」って言うてた。そして、ワイの予測は完全に的中してる。だから、企業が危険なことをしてへんか、コーナーカットをしてへんかを確認するために、何らかの洞察が必要やったんや。
でも、その当時はGoogleがホワイトハウスをコントロールしてたようなもんやった。彼らは規制を望んでへんかったんや。
政治家が権力を拡大する機会を逃すのを見たことないよな。規制は彼らをより強力にするからな。
つまり、規制の取り込みってことやな。
そうや。当時のCTOはGoogleの元従業員やった。だから、AI規制にブレーキをかけたんや。今でも連邦レベルでのAI規制はない。驚くべきことやな。
ワイは、何もないよりはマシやと思う。少なくとも、ルール違反がなくても、「この会社やあの会社が何をしてるか洞察があって、我々は懸念してる」と言えるくらいはあった方がええと思う。それは知っておくのに役立つやろ。
その代わりに、政治的に動機づけられた嘘つきが未来を担ってるように見えるな。ちょっとスケッチやな。
次に、彼はデジタル超知能の到来を見届けたいかどうか聞かれる。
これは本当に驚くべき時代に生きてるってことやな。正直言うて、ワイがこれを受け入れて眠れるようになった方法の一つは、こう考えることやった。
デジタル超知能の到来を見届けるために生きてるのと、別の時代に生きていてそれを見れへんのと、どっちがええやろか。そう考えたら、もしそれが起こるんなら、ワイはそれを見届けるために生きてたいと思うわ。好奇心からな。
でも、それが確実に全ての人を殺すってわかってたら、どうする？ 時間をさかのぼることができるとしたら？
そうやな、たぶんそれが起こる直前まで生きてたいと思うわ。でも結局のところ、もしそれが起こるんなら、そしてそれを止める方法がないんなら、仮定の話やけど、見たくないよりは見たいと思うな。
次に、我々は神、創造主、このすべてを創造した何かについての可能性について話す。過去にイーロンは、シミュレーション仮説について言及したことがある。これは、我々の住むこの世界が設計され、創造されたものであり、シミュレーションであるという考え方や。ここでは、創造主の可能性と、それが現実かどうかについての彼の考えを聞いてみよか。
人生、宇宙、そして全てのことの答えは何なんやろか。でも、人間を超えた力、我々の意識を超えた力、創造主についての質問に対して、あんたはどう考えてるん？
どっかから来たはずやからな。だから、何らかの創造主や創造力、あるいは我々の存在を生み出した何かがあるはずやと思う。その創造主の性質がどんなもんかは、少なくともワイには分からへん。決定的な答えを知らへんわ。
でも、あんたはオープンな考え方を持ってるってことやな？
そうや、ワイはとてもオープンや。好奇心に突き動かされてるんや。宇宙の性質についてもっと理解しようとしてる。
ワイの原動力となる哲学は、人生の意味を理解すること。あるいは、もし人生の意味が正しい質問やないんなら、どんな質問をすべきかを理解することや。
ダグラス・アダムズが「銀河ヒッチハイク・ガイド」で指摘したように、「人生の意味は何か」というのは、おそらく正しい質問やないんやろな。
あの本では、地球は実際、「人生の意味は何か」という質問の答えを見つけるためのコンピューターやった。そして、答えは「42」やった。でも、それが何を意味するのかわからへん。それが答えやけど、質問の方が本当に難しいんや。そして、その質問を見つけるには、地球よりもずっと大きなコンピューターが必要になるんや。
ワイの哲学は、意識の範囲と規模を拡大すべきやということや。もっと人間を、もっと思考を増やすべきやと思う。そして、おそらく機械の意識にも議論の余地があるかもしれへんな。
次に、イーロンはエイリアンの存在を信じてるかどうか聞かれる。彼はこの質問をよく聞かれるんやけど、ワイは彼の答えが最も興味深いもんの一つやと思うわ。彼は文字通り地球の周りを飛んでる衛星の群れを持ってるし、様々なロケットを宇宙に打ち上げてる。彼は何かを知ってるかもしれへんな。
人間を超えた力を信じてるん？
そうやな。我々には分からへんことがたくさんあると思う。例えば、なぜ現実が存在するのか、それはどこから来たのか、エイリアンはどこにおるんか、我々が知らへん質問で、どんな質問をすべきなのか、そういったことやな。
「エイリアンはどこにおるんか」って言うたけど、エイリアンについてはどう思うん？
なぜ我々は彼らを見かけへんのか、ってことやな。多くの人がエイリアンを見たって言うけど、ワイはエイリアンの証拠を見たことがない。
我々は6000個の衛星を軌道に乗せてるけど、一度もエイリアンの宇宙船を避けるために軌道を変更したことはないんや。
でも、この地球上では、アメリカ軍は説明のつかない物体、つまり未確認飛行物体を避けるために多くの操作をせなあかんかったんやろ？
そうやな、でも常に多くの機密プログラムが進行中やからな。新しい航空機やミサイル、機密扱いのものがある。軍の中でさえ、最高機密の区画に分類されたクリアランスを持ってへんと、この新しいプログラムについて知ることはできへん。
だから、パイロットが何か高速で動くものを見て、「UFOを見た」って言うても、実際にはそれは新しい兵器プログラムやったりするんや。でも、そうとは言えへんのやな。
でも、ワイが保証できるのは、エイリアンを見た瞬間、即座にXプラットフォームに投稿するってことや。たぶん、史上最高の投稿になるやろな。
間違いなく、それがあんたの最大の日になるやろうな。
楽しんでもらえたと思う。これはイーロンの心理を興味深く覗き見るようなもんやった。彼が何を考えてるのかがわかったと思う。インタビューへのリンクは下に貼っておくで。ほとんどは政治の話やけど、ここで抜き出したのは技術やAI、その他のことについての部分や。
あんたはどう思う？ 彼の言ってることに賛成する？ マインクラフトの動画が時々挿入されてるの、好き？ それとも嫌い？ チャンネル登録を検討してくれへんか？ 親指を立てるボタンを押すのも考えてみてな。YouTuberはそれを求めてるんや。
ワイはウェス・アースや。また会おうな。