OpenAI の CEO 兼共同創業者である Sam Altman、チーフサイエンティストの Ilya Sutskeverと共にチャット

「テルアビブ大学へようこそ。[拍手] 本日は大学の支援者、管理職、教職員、学生の皆様、そしてマイクロソフトやイスラエルのハイテク業界からのゲストの皆様にもお越しいただいています。私はナダブ・コーエンと申します。コンピューターサイエンス学部の教員をしています。本日はサム・アルトマンとイリヤ・スツケバーをお迎えしました。お二人はOpenAIのCEOと主任科学者です。[拍手]
ありがとうございます。こうしてお招きいただき光栄です。まずはお二人に簡単な自己紹介をしていただきたいと思います。イリヤさん、イスラエルとのつながりについても触れていただけますか?」
「はい、みなさんこんにちは。私は5歳から16歳までエルサレムに住んでいました。2000年から2002年までオープン大学で学びました。[拍手] その後トロント大学に移り、10年間そこで過ごし、学士号、修士号、博士号を取得しました。大学院時代にはすでにディープラーニングの重要な進歩に貢献する機会に恵まれました。その後、数人で会社を立ち上げ、それがGoogleに買収されて、しばらくそこで働いていました。そしてある日、サムから「一緒に面白い人たちと会おう」という冷やかしのメールを受け取ったんです。とても興味が湧いて、行ってみたら、それがイーロン・マスクとグレッグ・ブロックマンとの最初の夕食会だったんです。そこでOpenAIを立ち上げることを決めて、それ以来ずっとやってきています。今はこんな感じです。」
「ありがとうございます。私は子供の頃からAIにワクワクしていました。大の SF 好きだったんです。でも実際に AI に携わる機会が来るとは思ってもみませんでした。大学に入学して、しばらく AI を勉強しましたが、全然うまくいきませんでした。これは2004年頃の話です。大学を中退して、スタートアップをやったり、スタートアップ投資家になったりしました。イリヤが言及したような AI の進歩が起こった後、再び AI に夢中になりました。そして彼にあのメールを送って、今に至ります。」
「わかりました。では話を始めましょう。OpenAI が生成 AI のリーダーになった要因は何だと思いますか? 特に競合他社の方が大きく、リソースも豊富な場合が多いのに、どうしてそうなったのでしょうか?」
「集中力と確信です。私たちは常に、大企業よりもずっと先を見据えて信じていると思います。そして私たちがやっていることに集中しています。人材密度も高いです。人材密度は非常に重要で、よく誤解されています。そして、厳密さと再現可能なイノベーションの文化があります。この両方を1つの文化の中に持つことは難しく、珍しいことです。」
「サムの答えにほんの少し付け加えられるだけですが...テスト1、2、3...サムの答えに5%ほど付け加えると、AIの進歩は信念のゲームです。より大きな信念を持てば持つほど、より大きな進歩を遂げることができます。信念が非常に大きければ、最大の進歩を遂げることができるのです。冗談に聞こえるかもしれませんが、本気です。アイデアを信じ、それを押し進める必要があります。より強く信じれば信じるほど、より強く押し進めることができます。そしてそれが進歩につながるのです。もちろん、信じているものが正しいことが重要ですが、その点を除けば、すべては信念にかかっているのです。」
「ありがとうございます。他の話題に移りましょう。最近のAIの進歩は、長年にわたって主に産業界によって推進されてきました。学術研究の役割について、分野の発展とともにどのようにお考えですか?」
「はい、状況は大きく変わりました。以前は、最先端のAI研究が行われていたのはアカデミアでした。今はそうではありません。2つの理由があります。計算能力とエンジニアリングです。アカデミアは計算能力が少なく、一般的にエンジニアリング文化がありません。それでも、アカデミアはAIに劇的で重要な貢献をすることができます。ただし、最先端の機能ではありません。アカデミアが貢献できる分野はたくさんあります。私たちが訓練している神経回路網には多くの謎があります。私たちは想像を絶する複雑さを持つ奇跡的な物体を生み出しています。ディープラーニングとは錬金術のプロセスです。データという原材料と計算という
エネルギー源を使って、この知性を生み出しているのです。でも、それは一体何なのか? どのように機能するのか? どんな特性があるのか? どうやってコントロールするのか? どうやって封じ込めるのか? どうやって理解するのか? どうやって測定するのか? これらは未知の領域です。単純な測定タスクさえも、私たちのAIがどれほど優れているのか測定できません。以前はAIが重要ではなかったので問題にはなりませんでしたが、今やAIが重要になっているので、測定できないことに気づいているのです。これらは思いつきの例ですが、誰も解決できない問題です。巨大な計算クラスターも巨大なエンジニアリングチームも必要ありません。これらの問題について考え、進歩を遂げることができるのです。そして、もし進歩を遂げれば、それは劇的で重要な貢献となり、すぐに皆の注目を集めることでしょう。」
「ありがとうございます。あなたの言葉から、そして実際に、産業界とアカデミアの進歩のバランスが取れていないように聞こえます。そのような貢献をもっと見たいところです。状況を改善するために何かできることはあると思いますか? 特にあなたの立場から、何か支援できることはありますか?」
「はい、2つのことを言いたいと思います。まず、最も重要なのは考え方の転換です。私は最近アカデミアから少し離れていますが、『私たちは何をしているのか』という危機があると思います。混乱を生み出している一つの要因は、非常に多くの論文が書かれているという勢いがあることです。しかし、重要なのは最も重要な問題に焦点を当てることです。ただそれに集中するのです。最も重要な問題に焦点を当てるという考え方の転換が必要です。私たちに何ができないのか、何がわからないのか、それらのことを測定できないのか、理解できないのか、問題を理解すれば解決に向かって動き始めます。そこで私たちが協力できるのです。私たちにはアカデミックアクセスプログラムがあり、大学が私たちの最先端のモデルにアクセスできるように申請します。彼らはそれらを研究し、論文を書きます。GPT-3の時代から、製品化する前からそうしてきました。多くの大学がモデルを研究し、その特性やバイアスについて論文を書いてきました。もっとアイデアがあれば、ぜひ聞かせてください。」
「はい、これらのことについてはオフラインでさらに議論すべきですね。出版について触れられましたが、この分野にいる者として、産業界で行われている研究に関して、科学的透明性のレベルがやや低下しているという意見があるように思います。あるいは少なくともそれは公平な議論だと思います。モデルをオープンソース化したり、コードを公開したりすることを本当に推進している企業もありますが、そうでない企業もあります。そしてOpenAIもその中に含まれると言う人もいます。まず、これについてどうお考えですか? そしてもしそうだとしたら、なぜそうなのでしょうか? OpenAIの戦略がそうなっている理由は何でしょうか?」
「私たちはいくつかのモデルをオープンソース化していますし、今後もさらにオープンソース化していく予定です。しかし、すべてをオープンソース化するのが正しい戦略だとは思いません。今日のモデルは興味深く、ある程度の有用性がありますが、私たちが今後作成するモデルと比べれば非常にプリミティブです。そして、素晴らしい可能性を秘めていると同時に、存在論的な危険性も持つ超強力なAGIを作った場合、それをオープンソース化するのが最善の答えではないかもしれないということは、ほとんどの人が同意すると思います。そのため、バランスを見出そうとしているのです。いくつかのものはオープンソース化し、時間が経つにつれてモデルをより理解できるようになれば、さらに多くのものをオープンソース化できるでしょう。私たちは多くのことを公開してきました。他の人々が現在LLMを構築するために使用している主要なアイデアの多くは、OpenAIによって公開されたものだと思います。初期のGPT論文からスケーリング則まで、ロフの仕事からのものですが、それは私たちが進むにつれて解決しなければならないバランスなのです。私たちにはさまざまな緊張関係があり、それをうまく管理していく必要があります。」
「では、選ばれた人々にのみ公開するようなモデルを考えていますか? 全世界にオープンソース化するのではなく、科学者たちに公開するといったことは検討していますか?」
「GPT-4の訓練を終えた後、私たちは長い時間をかけて、それを理解し、安全性を確保し、どのように調整するかを把握するために、外部の監査人や赤チーム、科学コミュニティとの関わりを持ちました。そのようなことは行っていますし、今後も続けていく予定です。」
「リスクについて少し話をしたいと思います。これは多くの議論がされているトピックだと思いますが、機会について話す前に、ほんの数分だけこの話をしたいと思います。重要だと思うからです。少なくとも3つのリスクのカテゴリーが想像できると思います。1つは経済的な混乱です。仕事が不要になるといったことですね。もう1つは、少数の人々、例えばハッカーの手に強力な武器が渡ってしまうことです。これらのツールを使えば、以前の何千人ものハッカーに匹敵するようなことができるかもしれません。そして最後は、おそらく最も懸念されるのは、制御不能なシステムです。それを起動した人々でさえ、止められないようなシステムです。これらのそれぞれについて、どのようなシナリオが考えられるでしょうか?」
「はい、それぞれのリスクについて考えられるシナリオを見ていきましょう。まず経済的混乱からです。すでに影響を受けている仕事があることは分かっています。つまり、仕事の一部が行えるようになっているということです。プログラマーであれば、もう関数を書く必要はありません。Copilotが書いてくれます。アーティストの場合は少し違います。アーティストの経済活動の大部分が、いくつかの画像生成器によって奪われています。確かに、仕事に関しては簡単な時期ではないでしょう。新しい仕事が生まれるでしょうが、長期にわたる経済的不確実性の時期になるでしょう。完全な人間レベルのAI、完全なAGIを持っても、人々にはまだ経済活動を行う余地があるという議論もあります。それが本当かどうかはわかりませんが、いずれにせよ、打撃を和らげ、よりスムーズな移行を可能にするものが必要になるでしょう。全く新しい職業への移行であれ、そうでなくても、政府や社会システムが注意を払う必要があります。
ハッカーの質問については、確かに難しい問題です。AIは強力になり、悪意のある人々によって強力な方法で使用される可能性があります。他の非常に強力で危険なツールに適用するのと同様のフレームワークを適用する必要があるでしょう。ただし、今日のAIについて話しているのではありません。時間が経つにつれて能力が向上し、最終的にはここまで到達するということです。私たちはこれから到達するところです。この段階に達すると、非常に強力な技術になります。素晴らしい応用が可能になりますが、一方で、今までに存在したどんな病気よりもはるかに悪い病気を作り出すこともできるでしょう。それは悪いことです。そのため、強力な技術の使用をコントロールする構造を整備する必要があります。サムは、AIのために IAEAのようなものを提案する文書を作成しました。IAEAは核力を管理する組織です。
最後の質問、制御不能なスーパーインテリジェンスAIについてですが、それはかなり悪いことでしょうね。」
「はい、そうですね。コントロールする方法がわからないスーパーインテリジェンスAIを構築するのは大きな間違いです。」
「そこに付け加えることは何もありません。その最後の文に強く同意します。経済的な点については、これがどのように進展するかを推論するのは非常に難しいと思います。現在、世界には膨大な需要の余剰があり、これらのシステムはタスクの遂行に非常に優れていますが、現在のところ、ほとんどの場合、現在の仕事そのものではありません。そのため、短期的には実際にかなり良い状況に見えます。劇的な生産性の向上があり、プログラマーの生産性を2倍にできれば、世界が必要とするコードの量は2倍以上になることがわかるでしょう。だからすべて良いのです。
長期的には、これらのシステムがより複雑なタスクの束やカテゴリーを処理するようになり、一部の仕事はなくなりますが、一部の仕事は人間を本当に必要とし、人々はこれらの役割に人間を望むことがわかるでしょう。それも、あまり明白ではない方法で。一例として、世界が初めてAIを目にしたのは、ディープブルーがカスパロフを破ったときでした。誰もがチェスは完全に終わったと言いました。もう誰もチェスをプレイしないだろう、面白くないからと。それが皆の一致した意見でした。しかし、チェスは今ほど人気があったことはありません。人間はチェスが上手くなり、期待値が上がりました。これらのツールを使ってよりよく学べるようになりましたが、人々はまだプレイしたいと思っています。人間は他の人間が何をするかを気にしているようです。Dalleは素晴らしいアートを作ることができますが、人々はまだ買いたいと思うアートの背後にいる人間を気にしています。それが私たち全員が特別で価値があると考えているものです。
チェスの例で言えば、人々は以前よりも人間同士のチェス対局を観戦しています。しかし、2つのAIが対戦するのを見る人はあまりいません。そのため、予測が難しいことがたくさんあるでしょう。人間が差別化したい、新しいものを作りたい、ある種のステータスを得たいという欲求は消えないでしょう。しかし、それは何か本当に異なる形になるでしょう。100年後の仕事は今日の仕事とほとんど何も似ていないだろうと私は賭けます。多くのものが変わります。一部のものは奇妙なほど似ているかもしれません。しかし、イリヤが言っていたことに本当に同意します。何が起こるにせよ、自動化がこれまで想像もしなかったような高みに達するにつれて、何か異なる社会経済的な契約が必要になるでしょう。」
「ありがとうございます。このトピックについてもう一つ質問があります。サム、あなたは最近、AIからの実存的脅威を非常に真剣に扱うよう呼びかける請願書に署名しましたね。イリヤさんも署名したかどうかはわかりませんが。この呼びかけに続いて、人類が、そしておそらくOpenAIのような企業が、この問題に対処するためにとるべき具体的な措置があると思いますか?」
「ここで話しているのは、今日のシステムではないことを本当に強調したいと思います。小さなスタートアップがモデルを訓練したり、オープンソースコミュニティのことではありません。今、この分野に重い規制をかけたり、起こっている信じられないようなイノベーションを遅らせようとするのは間違いだと思います。私は利点についても話し合いたいと思います。しかし、イリヤが言ったように、本当によく調整されていないスーパーインテリジェンスを作るのは望ましくありません。これは議論の余地がないように思えます。世界はこれを「ハハ、絶対に来ないSFのリスク」としてではなく、次の10年以内に直面しなければならない可能性のあるものとして扱うべきだと思います。これは、世界の機関がこのような事態に適応するには非常に短い時間です。
私たちが提案した一つのアイデアは、はるかに優れたものがあることを願っていますが、計算力と技術の最先端にある非常に高度なレベルで、モデルのライセンスを与え、その安全性を監査し、合格しなければならないテストを提案するフレームワークを持つグローバルな組織を作ることです。これは、これを非常に深刻なリスクとして扱う一つの方法になるでしょう。例えば、核についても同じようなことをしています。」
「では実際に利点について話しましょう。これは科学的な場ですので、科学的発見におけるAIの役割について、何か予測や考えがありますか? 数年後、そしてもっと先の未来ではどうなっているでしょうか?」
「これは私が個人的に最も興奮していることです。AIによって、至る所で素晴らしいことが起こるでしょう。巨大な経済的利益、巨大な医療の利益がありますが、AIが現在私たちには不可能な科学的発見を手助けできるという事実は、宇宙の謎を理解することができるようになるでしょう。そしてそれ以上に、科学的・技術的進歩こそが、生活がより良くなり、世界がより良くなる唯一の持続可能な方法だと私は本当に信じています。もし私たちが巨大な量の新しい科学、新しい技術的進歩を解き放つことができれば、それは素晴らしいことです。人々がこれらのツールを使ってより効率的になっているのを、私たちはすでに目にしています。しかし、「すべての病気を治す方法を教えて」と言えば、AIがすべての病気を治す方法を教えてくれるような世界を想像してみてください。これは劇的に良い世界になる可能性があります。そして私たちはそれほど遠くない未来にそこに到達できると思います。」
「病気と並んでもう一つの大きな問題は気候変動です。AIの潜在的な役割についてどう思いますか? サム、あなたはこれを潜在的な貢献分野として言及していましたね。」
「はい、こう言うのは嫌なんですが、気候変動は非常に深刻で難しい問題ですが、本当に強力なスーパーインテリジェンスを手に入れたら、気候変動への対処はそれほど難しくないと思います。」
「そうですね、どのように説明できるか見てみましょう。気候変動の綴りはこうです。非常に大規模な効率的な炭素回収が必要です。炭素回収のためのエネルギーが必要で、それを構築する技術が必要で、そしてたくさん構築する必要があります。強力なAIが科学的進歩を加速できれば、非常に高度な炭素回収技術をはるかに早く手に入れることができるでしょう。はるかに安価な電力をはるかに早く手に入れることができるでしょう。はるかに安価な製造をはるかに早く手に入れることができるでしょう。これら3つを組み合わせてください。安価な電力、安価な製造、高度な炭素回収。そして大量に構築すれば、大気中の過剰なCO2をすべて吸収することができます。今日このプランは少し難しいですが、科学と工学を劇的に加速するAIがあれば、非常に簡単になります。
そしてこれは、私たちがどれだけ大きな夢を見るべきかを示しています。たくさんのクリーンエネルギーを安価に作る方法を教えて、効率的に炭素を回収する方法を教えて、そしてこれを惑星規模で行う工場を建設する方法を教えて、というようなシステムを考えてみてください。それができれば、他にもたくさんのことができるでしょう。」
「一つ付け加えると、単に教えてくれと頼むだけでなく、実際にそれを行うよう頼むのです。」
「OpenAIの製品について数問質問があります。まず、ChatGPTについてですが、リリースした時、あなたが言ったように、このように広がると予想していなかったそうですね。他の人々によるChatGPTの応用で、生み出された価値や明らかになった能力の面で、本当に驚いたものはありますか?」
「はい、まず言わせてください。個人的に際限なく喜びを与えてくれているのは、両親が友人たちが日常生活でChatGPTを使っていると教えてくれたことです。これは間違いなく非常に驚くべきことで、とても楽しいことでした。お気に入りの話をいくつか選ぶのは難しいです。世界の創造性と、強力なツールを与えられた時に人々が何をするかは本当に驚くべきものだからです。
教育分野での利用は素晴らしいものでした。「これで人生が変わった。今は何でも学べる」とか「これを学んだ」とか「これができなかったけど、今はできるようになった」といった声が多く寄せられています。人々が新しい、より良い方法で学んでいるのを見るのは個人的にとてもやりがいがあり、素晴らしいことです。数年後にはどうなっているか想像してみてください。このペースで人間の潜在能力を解き放つことができれば...私たちはそこまで期待していませんでしたが、それは驚くべきことです。
そして昨日聞いた楽しい話があります。以前にも似たような話を聞いたことがありますが、ある男性が毎晩2時間かけて子供と一緒に就寝前のお話を作っているそうです。それが子供のお気に入りの時間になっていて、毎晩特別な時間になっているんです。」
「ありがとうございます。crowd からの質問に移る前に、もう一つ小さな質問があります。言える範囲で構いませんが、OpenAIが現在取り組んでいる最も未来的な製品やシステムは何ですか?」
「私たちは製品という観点では考えていません。AIを改善できるか、次世代のAI、モデル、ニューラルネットワークを作り出せるかという観点で考えています。より信頼性が高く、推論能力が優れ、より制御可能で、すべての面でより良いものです。これを行えば、まったく新しい世界のアプリケーションが生まれます。予測するのは少し難しいですが、すべてがはるかに良くなり、非常に大きく改善されると期待しています。
世界が二度と私たちに驚かないことを願っています。ChatGPTで人々は更新を受けましたが、ここからは連続的で滑らかな進歩の曲線が続くと思います。毎段階でリスクに成功裏に対処し、常に望むことを行い、安全に使用できるように感じるでしょう。しかし毎年、期待値は上がり、私たちはそれに応えます。徐々に加速する技術のように感じるでしょうが、それは非常にあなたに仕えるツールなのです。」
「ありがとうございます。では、crowd からの質問に移りましょう。マイクを用意しています。」
「はい、質問です。お二人に質問です。オープンソース要素は、追加の技術的進歩なしでGPT-4の能力に匹敵する可能性がありますか? それとも、GPT-4には世界に知られていない秘密のソースがあって、他のモデルとは一線を画しているのでしょうか? それとも、Stable Vicuna 13B+Wizardをインストールするのは時間の無駄でしょうか? 時間の無駤かどうか教えてください。」
「オープンソースモデルと非オープンソースモデルの質問については、二項対立的な白黒で考えるべきではありません。GPT-4には二度と再発見されない秘密のソースがあるとか、オープンソースモデルがGPT-4を再現できるかどうかといった具合に考えるべきではありません。いつかは再現されるかもしれません。しかし、その時には企業はもっと強力なモデルを持っているでしょう。常にオープンソースモデルと非公開モデルの間にはギャップがあり、このギャップは増大する可能性さえあります。このようなニューラルネットを生成するのに必要な努力、エンジニアリング、研究の量は増え続けており、オープンソースモデルがあったとしても、小規模な献身的な研究者やエンジニアのグループによって作られることはますます少なくなり、大企業の専売特許になっていくでしょう。」
「こんにちは。GPT-4の基本モデルについて、調整して制限を加える前の状態について教えていただけますか?」
「私たちは、モデルに強化学習を適用するプロセスで重要な能力が失われることに気づいています。できるだけ多くの能力を保持する方法を研究しています。基本モデルはそれほど簡単に使えるものではありません。私たちが目指しているのは、指示に従い、ユーザーにできるだけ多くの制御と能力を与え、法的トラブルに巻き込まれないようなものです。例えば、拒否反応などいろいろなことを発見しました。そのため、より柔軟なモデルへの要求は完全に理解しています。ユーザーにもっとカスタマイズの余地を与えようとしています。」
「こんにちは、上の方です。まず、この講演に感謝します。本当に貴重なものです。個人や小規模な企業によって、最も大きな影響を受ける可能性のある上位のセクターは何だと思いますか?」
「そうですね、私たちがこの世界一周の旅をしている理由の一つは、人々が何を望んでいるのか、OpenAIに何をしてほしいと思っているのか、どんな懸念を持っているのか、規制についてどう考えているのか、社会にどのように統合されることを望んでいるのかを聞くためです。もう一つは、私たちのAPIの上に構築している開発者と話をして、彼らが何をしているのか、何をしたいのかを理解するためです。私にとって、この旅の中で最も楽しい部分は、開発者に会って、その創造性、構築されているビジネスの規模に驚かされることです。1人か2人、3人で何かを構築し、今では本当に規模が大きくなり、人々が本当に愛する製品になっているのを見るのです。そして、それがあらゆる産業で起こっています。
開発者ラウンドテーブルを行うと、ほとんど同じ分野で働いている人は2人といません。多様性が最もクールな点です。どの垂直分野を選んでも、AIは何らかの形で影響を与えるでしょう。これは少なくともiPhoneのローンチ以来、最も魔法のような期間です。技術の波が信じられないようなことを成し遂げようとしています。だから、最も刺激的な点は1つや2つのセクターではなく、あなたが情熱を持っている場所を見つけて、それを実行することです。」
「こんにちは、上の方です。まず、ここに来ていただき、ありがとうございます。この講演に感謝します。そして2つ目の質問ですが、もしAIが人類に危険をもたらすと本当に信じているなら、なぜ開発を続けるのですか? あなた自身の大切な人や家族のことを心配しませんか? そして2つ目、もし規制がOpenAIや他のAI企業に課せられたら、従いますか? それともマーク・ザッカーバーグのように、見つかる規制を回避しようとしますか?」
「非常に公平で良い質問だと思います。私たちの仕事の中で最も厄介な部分は、人間が本当に必要としているこの信じられないほどの可能性を秘めた技術と、これらの非常に深刻なリスクに直面することのバランスを取らなければならないことです。なぜ開発を続けるのか、その理由について話せると思います。
まず第一に、今日の生活水準と私たちが人々に許容していることを振り返ってみると、500年前や1000年前の人々の生活を振り返る以上に悪く見えるでしょう。そして、人々が貧困の中で生きていたなんて想像できますか? 人々が病気に苦しんでいたなんて想像できますか? 誰もが素晴らしい教育を受けられず、望むように生きられなかったなんて想像できますか? それは野蛮に見えるでしょう。将来の人々は皆、今日の最高の人々よりも良い生活を送ることができるでしょう。そしてそこにある可能性は途方もないものです。だから、それを実現する方法を見つけ出すことは道徳的な義務だと思います。
また、これは止められないものだと思います。これは技術の進歩であり、止めようとしても機能しません。だから、リスクを管理する方法を見つけ出さなければなりません。私たちの会社は、このリスクと、それに対処する必要性のために大部分が形成されました。私たちは珍しい構造を持っています。利益に上限があります。インセンティブが非常に重要だと信じています。インセンティブを正しく設計すれば、通常は望む行動を得ることができます。例えば、私たちはみな大丈夫です。数字をもう少し上げたり右に動かしたりしても、より多くのお金を稼ぐことはありません。Facebookが持っていたようなインセンティブ構造はありません。Facebookの人々は非常に善意のある人々だったと思いますが、ちょっとした課題のあるインセンティブ構造の中にいただけなのです。
私たちはAGIを感じ取ろうとしました。イリヤが常に言うように、最初に会社を設立する際にAGIを感じ取ろうとしました。そして、計算のためのお金の必要性と、私たちが気にかけているこのミッションのバランスを取るために、利益構造をどのように設定すればいいかを考えました。私たちが話し合ったことの一つは、私たちに最も影響を与える規制を喜んで受け入れられるような構造は何かということでした。そして今、その時が来て、私たちは世界中で私たちに最も影響を与える規制を提唱しています。
もちろん、それに従います。実存的リスクに直面している人々から良い行動を引き出すのは、より簡単だと思います。だから、ここでリードしているさまざまな企業のすべての人々は今、これを感じています。そして、ソーシャルメディア企業から見られたような集団的な反応とは異なる反応が見られるでしょう。すべての懐疑論、すべての懸念は公平だと思います。私たちは毎日これと格闘しています。そして、簡単に売れる答えはありません。」
「こんにちは、サム、こちらです。私の名前はアーベルです。テルアビブのボランティアをしています。18歳です。OpenAIの新しい従業員に何を求めますか?」
「お会いできて嬉しいです。駆動力、趣味、協調性、知性...つまり、組織全体の生産性に貢献する能力です。それは次のブレークスルーを生み出すことかもしれませんし、これらのシステムを構築するための優れたエンジニアになることかもしれません。あるいは単に他の人々に本当に役立ち、そのように貢献することかもしれません。確かに、スーパーインテリジェンスへの信念と、利益を得ながらリスクを管理することの重要性の重みを感じていることです。他に何かあったかな...」
「かなり包括的な回答に聞こえますね。」
「応募してみるべきですよ。」
「こんにちは、またバルコニーの右側です。私の名前はアロンです。ベニゴアンという会社のCEOをしています。イスラエルで過去40年間、数学の教科書とコンテンツを提供する主要な会社です。まず、ChatGPTのヘブライ語スキルをどのように改善する計画があるか聞きたいです。そして2つ目は、先ほど話していたことに関連しますが、教育とAIに関するあなたのビジョンは何ですか? 実際に学校で、子供たちのためにどのように改善し、モチベーションを高められるでしょうか?」
「はい、教育と数学...明らかに教科書はアップグレードされるでしょう。教科書を読んでも、質問に答えてくれません。私たちや他の人が構築しているようなAIの助けを借りて、科目について会話をすることが可能になるでしょう。それによって、はるかに効率的な学習体験が可能になります。数学にも適用されますし、他のすべてのことにも適用されるでしょう。最終的には、すでに私たちは、すべての学生が専用の個人教師を持つ世界に移行しつつあります。まだそこまでは到達していません。十分に良くはありませんが、そうなるでしょう。実際、雇用における黒鳥イベントかどうかはわかりません。これから起こる、より段階的で非常に予測可能な変化かもしれません。タスクは上手にこなせるが、仕事全体はこなせないシステムがあり、それがより良くなって一部の仕事をこなせるようになりますが、政府の役割を予測するのは難しいです。政府の役割は、何らかの新しいクッションを提供することになるでしょう。その形式がどのようなものになるかは、異なる政府が異なる実験を試み、何がうまくいくかを見て、うまくいくものを他の政府が真似することになるでしょう。
この数週間、道中でほとんどすべての会話で、すべての政府がこれについて非常に慎重に考えています。どのように最善の解決策を見つけるかについて異なるアイデアを持っていますが、これは少なくとも世界のリーダーが考えているトップ3の問題の一つです。だから、人々はこれに取り組んでいると思います。」
「こんにちは、私の名前はベンです。上の方にいます。コンピューターサイエンスを勉強していて、もうすぐ卒業します。10年から15年後も仕事を持つために、今何を学ぶべきでしょうか?」
「コンピューターサイエンスを学ぶことは、何があっても良いことだと思います。私はもうほとんどコードを書きませんが、思考方法、問題へのアプローチ方法を学ぶ上で、これまでに行った中で最高のことの一つでした。だから、たとえコンピュータープログラマーの仕事が今日とは全く異なる姿になったとしても、それ自体に価値があると思います。
学ぶべき主なスキルは、学び方を学ぶこと、速く学ぶこと、新しいことを学ぶこと、何が来るかを感じ取る感覚を持つこと、適応力があること、回復力があること、趣味、他の人が何を望むかを理解する方法、どのように役立つかを理解することだと思います。
繰り返しますが、仕事が変わり、仕事の性質が変わることは間違いありませんが、人々が他の人々のために価値を創造するために時間を使わない世界は想像できません。そこから得られるすべての利益も含めてです。将来、あなたと私が気にするのは、誰がより涼しい銀河を持っているかかもしれませんが、それでも何かはあるでしょう。」
「こんにちは、上の方です。最後の質問です。私の名前は...です。Deep Pathologyの共同創業者です。お二人への質問ですが、あなたたちは歴史を作っています。歴史にどのように記憶されたいですか?」
「可能な限り最高の方法で。」
「こんにちは、私の名前はアミールです。17歳の起業家です。初めてのスタートアップを立ち上げる人へのアドバイスを聞きたいです。」
「これは本当に...私が今まで見た中で、スタートアップを始めるのに最高の時期だと思います。実際、iPhoneの時よりも良いと思います。おそらく、インターネットが登場した時と唯一比較できるかもしれません。今、初めて起業家になるなら、あなたは長い間存在した中で最も幸運な起業家です。信じられないほど新しく、急速に動いている技術の波があります。そして、そういう時こそスタートアップが勝利し、既存企業が失敗して置き換えられるのです。今まさに地面が揺れているのです。それこそがスタートアップとして望むことです。ほとんどの人が想像もできないようなことが可能になっています。新しいアプローチで価値を生み出す機会は、そう頻繁には訪れません。そして今がその大きなチャンスなのです。だから、すべての起業家にとって今は夏の子供のような時期なんです。そして、それは本当にクールな時代です。」
「こんにちは。何をすれば...」
「いや、全くそうは思いません。私たちの上に乗っかってくるようなものを作ろうとするなら、想像力の欠如があるでしょうし、おそらくChatGPTの純粋なバージョンよりも良いものは作れないでしょう。しかし、可能性の宇宙の大きさは今、信じられないほどです。この旅で出会った会社だけを見ても、取り組むべきことがたくさんあります。だから、もし私たちが既存企業だから心配しているなら、問題を正しく考えていないと思います。」