OpenAIのアルトマンとマカンジュ、AIのグローバルな影響について

https://www.youtube.com/watch?v=GRioxTshI2E

「皆さんは今日、選挙におけるAIの使用に関する新しいガイドラインを発表してニュースを作りましたね。ダボスの人々が聞きたがっていたことだと思います。政治キャンペーンでのChatGPTの使用を禁止し、DALLEで作成された画像に暗号化された透かしを導入して、AI生成画像の出所と透明性を確保しましたね。私はそれを読んで、これは素晴らしいと思いました。これらの原則の一部は、FacebookやTikTok、YouTubeなどのより大きなプラットフォームでも共有されていますが、彼らはそれを実施するのに苦労しています。どうやって実現するのでしょうか？」
「実際、これらの多くは私たちが長い間行ってきたことです。私たちには非常に強力な安全システムチームがあり、モニタリングだけでなく、実際に自社のツールを活用して執行を拡大できるので、かなりの優位性があると思います。また、全米州務長官協会との重要なパートナーシップなど、権威ある投票情報を提供する方法もいくつかあります。そのため、これを実施するための方法はたくさんあります。」
「サム、これによってOpenAIが2024年の77の重要な民主主義選挙に影響を与えないという安心感を得られましたか？」
「いいえ、私たちはそれに非常に焦点を当てています。安心感を得ていないのは良いことだと思います。多くの不安を抱え、できる限り正しく行うためにあらゆることをするつもりです。私たちの役割は配信プラットフォームの役割とは非常に異なりますが、それでも重要です。彼らとも協力する必要があります。ここで生成され、ここで配信されるという感じです。そして、彼らとの良好な対話が必要です。また、以前のサイクルで他のテクノロジーで何が起こったかを見てきた利点もあります。今回も同じではないと思います。常に前回の戦いを戦おうとするのは間違いだと思いますが、そこから学べることはあります。だから、「ああ、心配していない、気分は良い」なんて言うのは恐ろしいことだと思います。今年は非常に注意深く見守り、非常にタイトなモニタリングと非常にタイトなフィードバックループが必要です。」
「アナ、あなたはFacebookからOpenAIに来ましたね。申し訳ありませんが、このように質問するのは、おそらくトリガーフレーズだと思いますが、ケンブリッジ・アナリティカのような事態が再び起こる心配はありませんか？」
「サムが言及したように、活用できる学びはたくさんありますが、OpenAIは設立当初からこれらの問題について考えてきた会社です。それが設立理由の一つでもあったのです。だから、私はあまり心配していません。なぜなら、これらの問題は、私たちのチームがこれらのツールの構築の初めから考えてきたことだからです。」
「サム、ドナルド・トランプが昨日アイオワ州党員集会で勝利しました。私たちは今、この来るべき選挙の現実に直面しています。テクノロジーとAIの安全な管理のために、米国選挙で何が賭けられていると思いますか？有権者がこの選挙で考慮すべき、そして考慮せざるを得ない重要な問題だと感じますか？」
「今直面しているというのは問題の一部だと思います。実際、多くの人々がダボスに来て、『トランプの言っていることが多くの人々に共感を呼んでいるかもしれないとは思いもしなかった。そして今、アイオワでのこのパフォーマンスの後に突然、ああ、まいった』と言うのは、非常にダボス中心的な見方です。私は2日間ここにいますが...もっと多くの反省があり、もっと早くそれを始めていれば良かったと思います。今直面しているというよりも、アメリカの市民にとって何が機能しているのか、何が機能していないのかについて、本当の教訓を学ぶことができなかったのです。この選挙では多くのことが賭けられていると思います。選挙は、ご存知の通り、非常に重要です。アメリカはこの選挙の結果に関わらず大丈夫だと信じています。AIもこの選挙の結果に関わらず大丈夫だと信じています。そしてそれを実現するために非常に懸命に働く必要があります。しかし、これは誰も私がここに座って政治について熱弁を振るうのを聞きたくないでしょうから、この辺で止めます。しかし、アメリカの市民にとって何が機能しているのか、何が機能していないのかについて、本当の教訓を学ぶことに失敗があったと思います。」
「アナ、あなたにも同じ質問をしたいと思います。あなたの政治的背景を考慮に入れて、シリコンバレーやAIにとって、米国選挙で何が賭けられていると感じますか？」
「私が印象的だと感じ、本当に注目に値するのは、AIに関する会話が非常に超党派的なままであるということです。つまり、両党がこれを嫌っているということではありません。これは、共和党員は通常、規制に賛成しない傾向がありますが、この技術に関しては何かが必要だと考えているという点で両党が合意しているエリアです。シューマー上院議員は共和党の同僚と超党派の取り組みを行っています。再び、DCの両党の人々と話すとき、今のところ彼らは同じページにいるように見えます。」
「既存のキャンペーンはすべて、AIに関連する問題について同じように明確に表現していると感じますか？」
「いいえ、AIは今のところ本当にキャンペーンの問題になっていないと思います。だから、それがどのようになるかを見るのは興味深いでしょう。もし私たちが正しければ、これは単なる技術革命以上のものになる可能性があります。ある意味では、すべての技術革命は社会革命ですが、この革命は通常よりもはるかにそうなる可能性があります。そのため、これは社会的問題、政治的問題になるでしょう。ある意味ではすでにそうなっていますが、私たち二人にとっては、すでにそうなっていないのが奇妙だと思います。選挙ではなく、製品の能力の増加と、人々が本当に起こっていること、起こったこと、これから起こることに追いつくにつれて、社会にはいつも多くの怒りがあります。」
「ドナルド・トランプのような政治家が、労働者階級の疎外感や怒り、技術が人々を置き去りにしているという感覚、不平等の拡大などの感情を上手く利用してきました。AIがこれらの傾向をさらに悪化させる危険はありますか？」
「はい、確かにそれは考えるべきことですが、驚くべきことに、私たちが予想していたよりもはるかに良い方向に進んでいます。技術の開発を始めるとき、科学が導く方向に従うと言います。製品を出すときは、これは社会と共進化し、ユーザーが導く方向に従うと言います。しかし、ある程度しか操縦できません。技術ができることと、人々がそれをどのように使いたいか、そしてそれが何ができるかという点があります。これは、私たちが予想していたよりもはるかにツールになっています。まだ、人々が思っていたほどの仕事の置き換えはしていません。これは生産性のための信じられないほどのツールであり、人々が2倍や5倍、あるいは数字で表現できないほど多くのことができるようになっているのが見えます。なぜなら、以前はまったくできなかったことができるようになったからです。これは非常に興奮させることだと思います。私たちが始めたときには本当に分からなかった未来の新しいビジョンです。技術がこの方向に進んだことをとてもありがたく思っています。これは人間がすることを拡大するツールであり、人々がより良く仕事をできるようにし、AIが仕事の一部を行うことができます。もちろん、仕事は変わり、完全になくなる仕事もあるでしょう。しかし、人間の欲求は非常に強く、社会の仕組みも非常に強いので、信じられないかもしれませんが、AGI（汎用人工知能）は合理的に近い将来に開発されると思います。そして、世界を私たちが考えているほど変えないでしょう。仕事を私たちが考えているほど変えないでしょう。繰り返しますが、これは以前の私にとっては文法的に意味をなさない文章だったかもしれません。AGIがどのように進むかについての私の当時の考えを考えると。」
「技術の発展を見てきた中で、AGIが焦点になってくるにつれて、仕事の混乱や破壊がどれほど重要になるかについて、お二人の見方は変わりましたか？」
「これは実際に、私たちが研究しているエリアです。政策研究チームがあり、彼らは仕事の置き換えというよりも、人々が仕事をする方法に大きな影響を与えていることを見ています。そして、それが実際に加速し、より多くの人々の仕事を変えると思います。しかし、サムが言ったように、今のところ仕事の大きな置き換えは見られていません。コーダーが『私は以前の2倍、3倍、何倍も生産的になった』と言うのを聞きます。『このツールなしでは二度とコーディングできない』と。主に若い人たちからそう聞きますが、実際には、そして私はこれが多くの産業で当てはまると思いますが、世界には今、書く人よりもはるかに多くのコードが必要なのです。だから、需要が尽きるわけではなく、人々がより多くのことをできるようになり、期待が上がりますが、能力も上がるのです。」
「今日、別のニュース報告で、OpenAIが軍事プロジェクトやウェポン開発におけるAIの使用制限を緩和していると示唆されていました。それについてもっと詳しく教えていただけますか？また、米国国防総省や他の軍事機関とどのような仕事をしていますか？」
「これらの多くの方針は、人々が私たちのツールをどのように使用するかさえ分からない段階で書かれました。これは実際に軍事利用ケースの方針だけでなく、全体的に明確にするための調整でした。人々が何が可能で何が不可能かを理解できるようにするためです。特にこの分野については、私たちはまだ武器の開発、財産の破壊、個人への危害を禁止しています。しかし、例えば、国防総省と協力して重要インフラを保護するオープンソースソフトウェアのサイバーセキュリティツールの開発を行っています。また、退役軍人の自殺防止に役立つかどうかを探っています。以前は軍事に関する包括的な禁止があったため、多くの人々はこれらの使用ケースも禁止されていると感じていました。しかし、私たちはこれらが世界で見たいと思うものに非常に合致していると考えています。」
「米国政府から他国の軍隊との協力レベルを制限するよう求められましたか？」
「彼らは私たちに求めていませんが、私たちは確かに現在、米国の国家安全保障機関との議論に焦点を当てています。私たちは常に、民主主義がこの技術をリードする必要があると信じてきました。」
「サム、話題を変えて、GPTストアについて最新情報を教えてください。モバイルアプリストアの初期に見られたような創造性の爆発を見ていますか？」
「同じレベルの創造性と同じレベルのクラップですね。新しい技術を感じ取ろうとする初期段階ではそういうことが起こります。素晴らしいものもたくさんあります。」
「例を挙げていただけますか？GPTsについて説明した方がいいでしょうか？」
「はい、GPTsはChatGPTを非常に軽量にカスタマイズする方法です。特定の方法で動作させたり、特定のデータを使用したり、外部サービスを呼び出したりしたい場合、このものを作ることができます。そして、あらゆる種類の素晴らしいことができます。最近、他の人が作ったものを見たり、共有したりできるストアを立ち上げました。個人的に気に入っているのは、Al Trailsです。私は2週間に1回くらい長いハイキングに行きたいと思っているのですが、いつも他の人が持っているNetflixのバージョンのように、何を見るかを決めるのに1時間かかります。私の場合は、どのハイキングをするかを決めるのに2時間かかります。Al Trailsを使えば、これが欲しい、あれが欲しい、もうこのコースは行ったことがあるなどと言えば、素晴らしいハイキングコースを提案してくれます。馬鹿げて聞こえるかもしれませんが、私はそれが大好きです。」
「あなた自身がGPTsを追加しましたか？」
「私は作りましたが、ストアには置いていません。たぶん置くかもしれません。」
「新しいGPTsの量や速度について最新情報を教えていただけますか？」
「ストアを立ち上げる前に300万が作成されていたというのが私が知っている数字です。この世界一周の旅の真っ最中で非常に忙しく、通常の日々のメトリクス追跡ができていないので、ローンチ以降どうなっているかわかりません。しかし、ChatGPTの遅さを見ると、おそらくとてもうまくいっているのでしょう。」
「OpenAIの著作権問題についてお聞きしたいと思います。例えば、先月ニューヨーク・タイムズがOpenAIを訴えましたが、出版社との関係はOpenAIのビジネスにとってどれほど重要ですか？」
「重要ですが、人々が考えている理由とは違います。一部の人々は、『私のトレーニングデータが必要で、私のトレーニングデータは非常に価値がある』と信じていますが、実際にはそうではありません。例えば、私たちはニューヨーク・タイムズのデータでトレーニングしたいとは思っていません。より一般的に言えば、データ、データ、データ、ただ多くが必要で、多くが必要で、多くが必要だという世界になっていますが、いずれにせよそれはいつかは尽きます。そのため、私たちの研究の多くは、非常に高品質の少量のデータからどのようにしてより多くを学べるかということに焦点を当てています。世界はそれを理解するでしょう。私たちが出版社と一緒にやりたいことは、彼らが望むなら、ユーザーが『ダボスで今日何が起こったか』と聞いたときに、『ここにブルームバーグの記事があります。ここにニューヨーク・タイムズの記事があります』と言えるようにすることです。おそらく抜粋ではなく、技術を使ってもっとクールなことができるでしょう。一部の人々は私たちとパートナーシップを結びたがっていて、一部の人々はそうではありません。私たちは多くの素晴らしいパートナーシップを結んでおり、さらに多くが来ています。そして、一部の人々はそうしたくないのです。彼らには『それはしたくない』と言ってほしいのですが、訴えるよりはましです。しかし、私たちは自分たちを守ります。それでも大丈夫です。」
「ニューヨーク・タイムズのデータでトレーニングしたくないと言いましたが、それは法的リスクがあるためですか？もしそうなら、モデルのトレーニング方法を変えましたか？」
「それに関しては難しい点があります。ウェブは大きなものであり、ニューヨーク・タイムズから記事をコピーして、出典を明記せずに何かのウェブサイトに掲載する人々がいます。それがニューヨーク・タイムズの記事だとは分からないのです。ニューヨーク・タイムズが私たちに彼らの記事のデータベースを提供するか、あるいは誰か他の人がそうして、『これに一致するものは出力しないでください』と言えば、私たちはおそらくかなり良い仕事ができると思います。私たちは他の人のコンテンツを再生成したくありません。しかし、問題は真空の中で考えるほど簡単ではありません。その数を下げ、下げ、下げて、かなり低くすることができると思います。そして、それは私たちを評価する非常に合理的な方法だと思います。著作権で保護されたコンテンツがあり、それが私たちの知らないところで他の人のものに入ってしまったとしても、それが何であるかを示して、『これを直接の応答として出力しないでください』と言ってくれれば、私たちはそれを行うことができるはずです。繰り返しますが、千匹のサル、千台のタイプライターなどと言われますが、時々モデルは非常に近いものを生成するでしょう。しかし、全体的には素晴らしい仕事ができるはずです。ネガティブな面はあります。人々は『ああ、これはしないでください』と言いますが、ポジティブな面は、ニュースやその他の公開されたコンテンツを消費し、収益化する素晴らしい新しい方法があると思います。ニューヨーク・タイムズの状況1つに対して、私たちには未来を構築することに興奮している人々との非常に生産的な関係がたくさんあります。」
「DALLEについてはどうですか？DALLE 2、DALLE 3に不満を持っているアーティストもいます。それから何を学び、今後どのように変えていきますか？」
「私たちはアーティストコミュニティと多く関わっています。彼らの要求を聞くようにしています。一つは、『私のスタイルで生成しないでください』ということです。私のデータでトレーニングしていなくても、これは非常に合理的です。だから、そのようなことを実装しています。『私の画像がインターネット中にあり、それが何なのか分からなくても、トレーニングからオプトアウトさせてください』というのもあります。他にもたくさんあります。私が本当に興奮しているのは、技術はまだそこにはありませんが、アーティストが『これらの理由でこれが欲しくない』と言うのではなく、アーティストが自分のスタイルで素晴らしいバージョンのDALLEを作り、そのアクセスを売ることができるようになることです。望まなければ売らず、自分だけで使うこともできます。あるいは、誰かが彼らのものを使用したときに、何らかの経済的利益やその他の利益を得ることができます。それは単に彼らの画像でトレーニングすることではなく、本当にスタイルについてのことなのです。そして、それは少なくとも私が行ったアーティストとの会話で、人々が非常に興味を持っていることです。今のところは、人々が望まないことを知り、それを尊重することを確認しています。もちろん、すべての人を満足させることはできませんが、コミュニティに良いパートナーであると感じてもらえるよう努力しています。しかし、私が考えるより良く、より興奮させることは、アーティストが『それは素晴らしい』と言えるようなことができるようになることです。」
「アナ、あなたはワシントンや世界の他の首都へのOpenAIの大使ですね。Facebookでの経験や、過去数十年の多くのテクノロジー企業と政府、規制当局との緊張関係から何を学び、それを今どのようにOpenAIで活かしていますか？」
「一つ本当に学んだことは、政府で働いていたときのことです。もちろん、2016年のロシアの選挙干渉の際にホワイトハウスで働いていましたが、人々はそれが初めて聞いたことだと思っていますが、実際には何年もの間、私たちがそれについて考え、『これが起こることは分かっているが、どうすればいいのか』と考えていたことでした。その間、私は一度も企業に出向いて話をすることはありませんでした。なぜなら、それは政府で通常行うことではなく、特にこれらの新興ツールについては、当時はもっと珍しかったからです。テクノロジー分野に入ったとき、私はそのことをよく考えました。後悔していたし、政府が本当に技術を理解し、これらの企業がどのように決定を下しているかを理解できるようにしたいと思いました。また、正直なところ、私がOpenAIに入社したとき、政府ではほとんど誰もOpenAIのことを聞いたことがありませんでした。私はそれを使うたびに、『もし私が政権にいた8年間これを持っていたら、10倍以上のことができただろう』と思いました。だから私にとっては、どうやって同僚にそれを使ってもらうかということでした。特に、OpenAIのミッションである、これらのツールが誰もの利益になるようにするということを考えると、政府がそれを取り入れて市民により効率的に、より速くサービスを提供しない限り、それは決して起こらないと思います。これは実際に、私が最も興奮していることの一つです。政府にそれを使ってもらい、みんなの利益のためにすることです。」
「その提案にはとても誠実さが感じられます。規制当局はそれを受け入れていますか？過去のシリコンバレーとのやり取りから、かなりの懐疑心を持ってその会話に臨んでいるように思えます。」
「ほとんどそれについて話す機会がありません。なぜなら、ほとんどの場合、人々はガバナンスと規制に興味があるからです。理論的には、多くの利益があることは分かっていると思います。多くの政府はまだそれを取り入れる準備ができていません。もちろん例外はあります。最前線にいる人々もいます。だから、その会話には至らないことが多いのです。」
「11月の劇的な出来事について、お二人にお聞きしたいと思います。サム、これらの質問への窓はいつか閉じるでしょう。」
「そうなると思いますが、まだそうなっていないので、今のところ関係ありません。」
「私の質問は、OpenAIの非常にユニークな企業構造、非営利の取締役会と営利部門について、ガバナンスの問題に取り組みましたか？これはあなたの辞任につながりました。」
「まず、素晴らしい完全な取締役会を設置することに焦点を当てます。今後数ヶ月でそれに大きな進展があると期待しています。その後、新しい取締役会がガバナンス構造を検討しますが、私たちは構造について検討すべきだと思います。もしかしたら今の答えが正しいかもしれませんが、他のことを考慮する用意があるべきだと思います。しかし、今はその時ではありません。まず取締役会に焦点を当て、その後あらゆる角度から検討します。」
「おそらく、マイクロソフトを含む投資家や、ベンチャーキャピタルの支援者、長期的に投資収益を求めている従業員がいますね。OpenAIについて表現するのが難しいことの一つは、私たちのチームや私たちの周りの人々、投資家、マイクロソフトなどが、このミッションにどれほど献身的であるかということです。あの狂った数日の間、ある時点で会社の97%か98%が、『私たちは全員辞職して他の何かに行く』という手紙に署名しました。それは全員の株式を焼き尽くすことになり、多くの従業員にとって、これは彼らの富の全部または大部分です。人々がそれをする意志があったというのは、非常に珍しいことだと思います。投資家も、自分たちの持ち分がゼロになるのを見ようとしていましたが、『どうすればサポートできるか、ミッションにとって最善のことは何か』と言っていました。マイクロソフトも同様です。私はそのことをとても幸運に感じています。もちろん、すべての株主に多くのお金を稼がせたいと思っていますが、人々の優先順位が何であるかが非常に明確でした。そして、それは私にとって多くを意味しました。」
「私は少し微笑みました。なぜなら、あなたは昨年6月にBloombergテクノロジーカンファレンスに来て、エミリー・チャンがなぜあなたを信頼すべきなのかと尋ねたとき、非常に率直に『信頼すべきではない』と答え、『取締役会が望めば私を解雇できるべきだ』と言いました。そして実際に彼らはそうしました。そしてあなたは非常に巧みに復帰を演出しました。」
「実は、取締役会がそうしたとき、私は『これは狂っている、非常に混乱している、全く予想外だ』と思いましたが、これが構造なのだと思いました。すぐに次に何をするかを考え始めました。翌朝、数人の取締役から電話があるまで、本当に戻ることについて考えていませんでした。彼らが『戻りたくない？話し合いたい？』と聞いたときです。」
「取締役会にはすべての力がありました。今は...次のことは言わないでおきます。」
「続けてほしいと思います。」
「いいえ、私も次のように言いたいと思います。他のすべての力によって orchestrated されたというような多くの物語がありますが、それは正確ではありません。サムが戻るべきだと思い、それが正しいことだと考えたのは OpenAI の従業員たちでした。」
「私が言いたいことの一つは、私を解雇できる実体が必要だということです。しかし、その実体にも何らかの説明責任がなければなりません。そして、それが起こったことの明らかな問題です。」
「アナ、あなたはそのサーガの間に従業員に向けて驚くべき手紙を書きました。今日あなたをステージに招いた多くの理由の一つは、あの5日間があなたにとってどのようなものだったのか、そしてなぜあの手紙を書く決断をしたのかを尋ねたかったからです。」
「アナは明らかにこれに答えたいなら答えられますが、本当にこのソープオペラのようなことに時間を費やしたいのですか？AIが何をするかということよりも。」
「まとめに入ろうと思っていましたが...」
「人々は興味があると思います。」
「では、その質問に答えて、次に進みましょう。」
「私は単に言いたいのですが、それは会社全体が1週間休暇を取る予定だった前日に起こりました。私たちは金曜日に、狂った1年の後にリラックスした1週間を過ごす準備をしていました。そして、多くの人が1週間オフィスの床で寝ました。」
「ここに本当に良い質問があります。私たちはダボスにいて、気候変動が議題に上がっています。質問は...私は少し違う角度から質問します。計算コストとチップの必要性を考えると、AIの開発とAGIへの道は、気候に関して私たちを逆方向に導く恐れはありませんか？」
「世界には、私たちが以前考えていたよりもはるかに多くのエネルギーが必要です。私の世界のモデルでは、未来の2つの重要な通貨は計算力と知能、そしてエネルギーです。私たちが望むアイデアと、それを実現する能力、そして計算を実行する能力です。私たちはまだこの技術のエネルギーニーズを十分に認識していないと思います。良いニュースは、ある程度良いニュースがあるとすれば、画期的な進歩なしでは到達できないということです。核融合か、劇的に安価な太陽光発電プラスストレージが必要です。誰も本当に計画していないような大規模なものが必要です。だから、AIが多くのエネルギーを必要とすると言うのは全く公平ですが、それは私たちにこれを提供できる技術、つまり炭素を燃やすものではない技術にもっと投資することを強制するでしょう。そして、ちなみに、あなたは一つ以上の核...」
「私個人的には、それが最も可能性が高いか、2番目に可能性が高いアプローチだと思います。世界は今、その技術により受け入れやすくなっていると感じますか？歴史的には米国ではそうではありませんでした。」
「世界はまだ残念ながら核分裂にはかなり否定的ですが、核融合には非常にポジティブです。それははるかに簡単な話です。しかし、私は世界がもっと核分裂を受け入れてほしいと思います。私は楽観的すぎるかもしれませんが、私たちは今、炭素を燃やすことから離れる大規模なエネルギー転換への道筋があると思います。時間はかかるでしょう。車は走り続けるでしょう。すべての輸送関連のことがあります。すべての貨物船に核融合炉が搭載されるまでには時間がかかるでしょう。しかし、私たちがエネルギーコストを劇的に下げることができれば、炭素回収の数学が大きく変わります。残念ながら、世界は気候に関して何か劇的なことをしなければならない道筋にあると予想しています。地球工学のようなものを、バンドエイドとして、一時的な解決策として使用する必要があるでしょう。しかし、長期的な解決策への道筋が見えてきたと思います。」
「私の質問に戻りたいと思います。需要サイドでは、供給サイドで抜本的な行動を取らない限り、潜在的には逆方向に向かっているように聞こえます。しかし、本当に大きなブレークスルーなしには供給側を管理する方法はないと思います。これはあなたたちを怖がらせますか？なぜなら、世界は供給に関してそれほど多才ではありませんでしたが、AIは、私たちが十分な電力を生成し始めるまで時間を取らないでしょう。」
「私たちが座ってただ不安がるのは役に立たないと思います。私たちは、非常に高い確信を持って何が来るかを見ています。それは来ます。どうやって私たちの能力、資本、その他のものを使って、これを行い、その過程で世界の残りの部分のための解決策を提供できるでしょうか。AIトレーニングワークロードや推論ワークロードだけでなく。」
「アナ、2023年には、AIを規制することについて、ほとんど仮説的な会話が始まったように感じました。2024年に期待できることは何ですか？そして、政府は行動を起こすのでしょうか？それは現実になるのでしょうか？そして、AI安全性とはどのようなものでしょうか？」
「私たちは、それが現実になっていると思います。EUは実際にこの規制を最終決定する寸前です。これはかなり広範囲にわたるものになるでしょう。そしてバイデン政権は、おそらく行政命令の歴史の中で最も長い行政命令を書きました。これは2024年に実施されます。なぜなら、彼らは機関にこの技術を実施し、統治するための多くの宿題を与えたからです。そしてそれは起こっています。だから、本当に前進していると思います。しかし、安全性が正確に何を意味するのか、それが何であるかについては、まだ議論が尽きていないと思います。私たちはこの一部としてフロンティアモデルフォーラムを設立しました...」
「それが何か説明してもらえますか？」
「現在のところ、これはマイクロソフト、OpenAI、Anthropic、そしてGoogleですが、他のフロンティアラボにも拡大すると思います。現在、私たちは全員安全性に取り組んでいます。私たちは全員モデルをレッドチームしています。私たちは全員この作業の多くを行っていますが、本当に共通の語彙さえありません。標準化されたアプローチもありません。そして、これは部分的に、多くの政府がまさにこのことを私たちに求めたことへの対応です。つまり、業界全体で、実行可能なベストプラクティスとは何だと考えているのかということです。」
「規制が起業家活動を妨げ始める危険性はありませんか？AIにおいて。」
「人々はこれを本当に恐れています。これが、ドイツとフランス、イタリアがEUのAI法案の議論に介入した理由です。彼らは、自国の産業が発展する機会さえ得る前に、切り捨てられることを本当に懸念しています。」
「あなたの前の上司の行政命令に満足しましたか？そして、あなたがロビー活動をしたものはありましたか？」
「いいえ、実際、私はそれが本当に良かったと思います。単にこれらが制限だというだけでなく、『そして、あなたの機関が仕事をより良く行うためにこれをどのように活用するかを考えてください』というものでした。だから、彼らが実際にバランスの取れたアプローチを取ったことに本当に励まされました。」
「サム、ダボスは初めてですか？」
「はい、初めてです。」
「あなたはAGIについてもっと時間をかけて話したいと言いましたが、ここダボスで政治指導者やビジネスリーダーに伝えたいメッセージは何ですか？要約してください。」
「ありがとうございます。2023年は、世界がこれらのシステムがますます能力を高め、ますます一般化する可能性に目覚めた年だと思います。しかし、GPT-4は最もよくプレビューとして理解されるべきです。それは私たちが予想していたよりも、より多くの人々にとって、より多くの方法で、バーを超えていました。しかし、限界を指摘するのは簡単です。繰り返しますが、人々がそれを愛し、多く使用してくれていることに私たちは喜んでいます。しかし、ここでの進歩は線形ではありません。これは本当に難しいことだと思います。人間は指数関数的なものに対して恐ろしい直感を持っています。少なくとも私自身についてはそうですが、それは人間の状態の共通の部分のようです。GPT-5がGPT-4に対して、4が3に対してそうだったのと同じくらい優れているとしたら、そして6が5に対してそうだとしたら、それは何を意味するのでしょうか？そして、私たちが今このような軌道にいるとしたら、それは何を意味するのでしょうか？規制の問題については、異なる国が異なることを試すのは素晴らしいことだと思います。一部の国はおそらくAIを禁止するでしょう。一部の国はおそらく全くガードレールを設けないでしょう。どちらも最適ではないと思いますが、異なることが機能するのを見ることができるでしょう。しかし、これらのシステムがより強力になるにつれて、経済にますます深く統合されるにつれて、私たち全員が仕事をするために使用するものになり、そしてそれ以上のことが起こるにつれて、人類のための新しい科学的知識を発見する能力を持つようになり、ある時点でAI研究を行う能力を持つようになるにつれて、世界は私たちが想像するよりもゆっくりと、そして急速に変化するでしょう。これは、私がいつも人々に言うことですが、次に何が起こるかは誰も知らないのです。私は本当にそう信じています。そしてそれについての謙虚さを保つことが本当に重要だと思います。数歩先は見えますが、あまり多くは見えません。しかし、認知の費用が1000倍か100万倍下がったとき、その能力が私たちが想像もできないほど私たちを補強するようになったとき...例えば、私が人々に与えようとする例は、世界中の誰もが本当に有能な10,000人の素晴らしい仮想従業員、あらゆる分野の専門家を持っていて、彼らは互いに争わず、休む必要がなく、非常に賢くなり、この急速なペースでより賢くなるとしたら、私たちは互いに何を創造できるでしょうか？それは私たちが経験する世界に何をするでしょうか？答えはもちろん私たちの誰も知りません。そして、私たちの誰もそれに対して強い直感を持っていません。私はある程度想像できますが、それは明確な絵ではありません。そして、これは起こるでしょう。それは私たちがそれを操縦できないということではありません。それは私たちがそれを安全にし、責任ある方法で行うために本当に一生懸命働く必要がないということではありません。しかし、私たちは未来に向かうでしょう。そして、機能する方法でそこに到達する最良の方法は、私たちが今持っている関与のレベルだと思います。私たちが技術の反復的な展開を信じている大きな理由の一部は、人々が徐々にそれに慣れ、理解する時間が必要だからです。私たちは賭け金が低いうちに間違いを犯す時間が必要です。政府はいくつかの政策の間違いを犯す時間が必要です。そして、このような場合、技術と社会は共進化しなければなりません。技術は各反復で変化しますが、社会の仕組みも変化します。それは対話的で反復的なプロセスでなければなりません。そして、私たちはそれを恐れることなく注意深く受け入れる必要があります。」
「この反復的プロセスにはどれくらいの時間がありますか？」
「驚くほど連続的だと思います。不連続性を考えようとすると、AIが本当に良いAI研究を行えるようになったときに一つ見えます。他にもいくつか見えますが、それは喚起的な例です。しかし、全体として、一つのラインを越えるというのではなく、この連続的な指数関数的曲線を一緒に登っていくことだと思います。だから、どれくらいの時間があるのかという質問に対しては、全くないと同時に無限にあるという答えになります。」
「先週、Xで『GPT-5』がトレンドになっているのを見ました。クリックしてみたのですが、誤報のように聞こえました。GPT-5について教えていただけることはありますか？そして、それは私たちが見てきたものからの指数関数的な改善なのでしょうか？」
「次のモデルを何と呼ぶかはまだ分かりません。」
「ネーミングプロセスで創造的になる予定はありますか？」
「iPhone 27を出荷するようなスタイルではありません。しかし、次に私たちがリリースするモデルは、非常に印象的で、GPT-4では不可能だった新しいことができ、多くのことをより良くできると期待しています。そして、私たちは時間をかけて、良いと感じ、責任を持ってローンチできるものを確実に出せるようにすると期待しています。OpenAI内では、一部の従業員が自分たちを『神を作っている』と考えていると聞いたことがありますか？」
「そのようなことは聞いたことがありません。冗談で言っているのを聞いたことはありますが、ほとんどすべての従業員は、彼らが思っていたよりもツールを構築していると言うでしょう。そして、彼らはそれに喜んでいます。この業界では、私たちは生き物を作っているのか、ツールを作っているのかという混乱があります。私たちはより多くツールを作っていると思います。そしてそれはずっと良いことです。」
「別の話題に移りましょう。」
「いいえ、いいえ、あなたの考えを完結させてください。」