見出し画像

World Government SummitでのSam Altmanインタビュー翻訳

bioshok

このテキストは、OpenAIのCEOであるSam Altman氏とUAEのAI大臣Omar Sultan Al Olama氏のWorld Government Summitでの対談の和訳(GPT-4)です。

このインタビューではUAEでのAIのサンドボックス実験への言及とUAEがASIを含めた高度なAIシステムの規制の中心になるかもしれず、その場合この対談は重要な為翻訳しました。
詳しい考察は以下ポスト。サンドボックスなど言及箇所は和訳箇所を太字にしています。

和訳

オマール：時々ニュースを読んで、人々がどれほど大胆かを感じますが、人類にとって本当に重要な話題について話し合う時間だと思います。大規模言語モデルとAIシステム、特にCHAT GPTについて話しましょう。まず、なぜこれらのシステムを作りたいと思ったのか、その旅を始めた理由、そしてなぜそれをしているのかを聞かせてください。

サム：私たちはまだ長い道のりがあり、証明しなければならないこともたくさんありますが、私たちの使命を果たし、それに近づくことができれば、知性を広く、安価に、そしてツールとして使って未来を築く手助けをすることの人類への利益は非常に素晴らしいと思います。豊かな知性と、それに密接に関連する豊かなエネルギーは、私が想像するには難しい未来を解き放つかもしれません。現在、私たちは知性の限界、その高価さ、獲得が難しいことにどれほど制限されているかに気づいていないと思いますが、すべての人が素晴らしい個別指導を受け、優れた個別の医療アドバイスを得られる世界を想像してみてください。これらのツールを使って新しい科学を発見し、病気を治し、環境を癒し、新しい物理学を発見し、他にも何かをすることができるでしょう。これはかなり素晴らしいことだと思います。また、個人的には、これほどエキサイティングなクエスト、フロンティアにいることは想像できません。

オマール：では、そのビジョンにどれくらい近づいていますか？例えば、薬の発見、がんの治療、CHAT GPTではなく、大規模言語モデルを使って、私たちの生活における最大の物理学、化学、生物学の質問のいくつかを解決するにはどれくらい時間がかかるのでしょうか？

サム：正直なところ、わかりません。これは新しい科学であり、常に新しいことを発見しています。発見の速度は信じられないほどで、変化の速度も信じられないほどですが、どれくらいの道のりが残っているかを正確に知るのは難しいです。ただ、科学者たちからは、私たちのツールが彼らの生産性を大幅に向上させるという声を常に聞いています。それをどのように定量化するかは簡単ではありませんが、地球上のすべての科学者の生産性を2倍にすることができれば、科学の発見の速度に何を意味するかもわかりません。これはすべて非常に新しいものです。これは1年以上前のものですが、わかるでしょう。

オマール：少しUAEの経験について触れてみたいと思います。数週間前に直接お会いしたときにこの話をしましたが、大規模言語モデルと特にCHAT GPTの展開が実際には大学でのカンニング率を上げることはなく、実際には学生や教授にとって素晴らしい支援となりました。また、政府がこれらのシステムを受け入れ、積極的に語ると、公衆も正しい方法でそれらを利用することを見てきました。私たちは、これらのツールを効果的に使用する方法を理解し、それらを使って生産性を高める方法を助けるためのガイドを発表しました。また、それらが使用されるべきではないことに対するいくつかのガイドラインも設定しました。これまでに見た中で最も優れた政府アプリケーションは何ですか？他の政府がこの分野で模範とするべき何かはありますか？

サム：まず、あなたが触れたことについて少し話したいと思いますが、それは教育とカンニングに関することです。chat gbtが最初に登場したとき、少なくとも私の経験ではアメリカの学区がchbtを最も早く禁止し、教育への存在の脅威を宣言するために躍起になっていました。その後、他の人たちが心配し始めましたが、最初は教育から始まりました。教育は最も早く反転した場所でもあります。教師や学区がそれを受け入れ、「これは未来の一部だ」と言い、「これは私たちが皆望んでいるもので、私たちの生徒がよりよく学ぶのを助けるものだ」と言いました。これは、すでに非常に革新的であり、間違いなく最も変革的な教育技術の1つです。そして、それはあなたの質問につながります。なぜなら、すべての政府がそれを受け入れ、「これを使って市民により良いサービスを提供する方法を考えよう」「政府が仕事をする方法、人々がフォームを記入する方法、または必要なことをする方法を改革しよう」と言うからです。教育、医療（先ほど議論したように）などの政府の支援が非常にうまく機能しているようです。そして、「さあ、これに取り組もう」「これを試してみよう」「これを受け入れよう」「政府に、私たちの市民にこれを利用させよう」と言っている政府は、現時点で最善のことをしていると思います。「私たちはみんなでこれを一緒に解決しよう」「私たちはみんなでルールブックを書いている」と言いながら、前進しましょう。

オマール：あなたはch gpt3が人々を驚かせ、3.5が大幅に改善されたこと、そしてGPT 4が次のレベルに到達したことを述べました。そして、現在あなたはGPT 5に取り組んでいます。技術の普及はまだ限定されており、非常に特定の領域でのみ使用されています。私たちはまだ、世界を変える適切な応用を見ていません。なぜ私たちは、より大きく、より良いもの、つまり現在見ているより大きなモデルを押し進め続けているのでしょうか？その背後にある論理を説明していただけますか？

サム：その正確な理由で、あなたが言ったように、私たちはまだ世界を変えるほどの応用をあまり見ていません。多くの人がこれらのサービスを使用し、価値を見出していますが、私たちが望むほどではありません。現在の技術は、黒と白の画面しか持たない最初の携帯電話のようなものです。それはほとんど何もしませんでしたが、電話をかけることができるという事実がありました。その当時、それは素晴らしいことでした。その後、それから多くの年月を経て、私たちが今日持っているiPhoneに至るまでの時間がかかりました。今日私たちが持っているものは信じられないほどですが、それはすべての方法で大規模にスケールアップすることによって達成されました。私たちが今持っているものは、最初の原始的な携帯電話の時代には想像もできませんでした。それが私たちが前進し続けなければならない理由です。私たちはまだほとんど役に立たない携帯電話を持っていますが、人々はまだ電話をかけるのが好きです。それが便利であれば、それは素晴らしいことですが、それは私たちが提供したいものではありません。私たちはiPhone 16、または現在のものが何であれ、それを提供したいのです。

オマール：現在のモトローラからiPhone 16に到達するまでのタイムラインはどうですか？

サム：少し Geduld sollte man schon haben. それは、前回のように世界には時間がかかりましたので、時間をください。ただし、数年後には今よりもずっと良くなると思いますし、10年後にはかなり素晴らしいものになるはずです。

オマール：GPT 4とGPT 5を比較すると、あなたはこれの最前線にいるので、その違いは何ですか？ GPT 5に興奮するなら、何に興奮すべきですか？

サム：少し笑っていましたが、これが少しいらだたしい答えのように聞こえるかもしれませんが、重要な部分だと思います。それは賢くなるということです。他のすべてのことについて話すことができます。それはこれらの種類のタスクでより良くなるでしょう。それはマルチモーダルになるでしょう。それは速くなるでしょう。しかし、私が本当に重要だと思うのは、それが賢くなるということです。これはそれが聞こえるよりも大きな取引です。これらのモデルが魔法のように感じられるのは、それらが一般的だからです。ですから、それが少しでも良くなれば、すべてのことが少しでも良くなるということです。私が最も興奮しているのは、このモデルがこのタスクで少し良くなり、これらのタスクではあまり良くならない、またはそれが良くなるわけではないということではありません。それは、私たちがモデルを賢くするので、すべての面でより良くなるということです。

オマール：映画『フリーキー・フライデー』を見たことがありますか？その映画では、2人の人々が場所を交換します。

サム：それについて聞いたことがありますが、見たことはありません。その映画のテーゼやアイデアは、2人の人々が場所を交換し、異なる体でお互いの生活を送るというものです。もし今日がフリーキー・チューズデーで、あなたがUAEの人工知能大臣になったとしたら、あなたが知っていること、見ていることを踏まえて、この国のために一つの規制決定を下すとしたら、何をしますか？

サム：それはあなたが私の仕事を一日だけ引き受けるということですか？

オマール：ぜひともやってみたいです。ただ一日だけですが。

サム：それは楽しいでしょう。それは見た目ほど簡単ではありません。

オマール：いいえ、それがとても難しいことは知っていますが、体験してみたいです。

サム：素晴らしいです。いつでも交換したい場合は、それを楽しみにしています。私がすることは、私が知っている限り、あなたがすでにその方向でいくつかの作業を行っていることを非常に評価していますが、この技術を実験できるような規制のサンドボックスを作り出す方法を見つけることを試みるでしょう。そして、人々が世界がどのように見えるかを夢見たり、想像したりするのを助けることができるでしょう。その後、何が意味があるか、何がないかを見て、その周りに規制を書くでしょう。真空中ですべての規制アイデアを正しく取得するのは非常に難しいと思います。何か制限された方法があれば、人々に未来を与え、それで実験をさせ、何が本当にうまくいき、何がうまくいかなかったかを見て、その周りに規制を書くことができると思います。それは興味深い実験のように思えます。

オマール：素晴らしいニュースがあります。私たちはここに「reg lab」と呼ばれるプラットフォームを持っており、それが実際にそれを行っています。ただし、問題はそれがまだ本当にグローバルに普及していないということです。私が思うに、私たちはそれを次のレベルに引き上げ、AIに特化した特定のユースケースを使用するべきです。

サム：私は答えを変えてもいいですか？

オマール：100回答えを変えても構いません。どうぞ。

サム：それでもいいことをすると思いますが、私が1日しかないのであれば、より良いことをするでしょう。私が考えていることの1つは、世界がこれらのさまざまな規制アプローチを試みることです。他の人々が他のことをしますが、私たちはそれを行うつもりです。それは実際にはとても良いことだと思いますが、私たちはいずれかの時点で、最も強力なシステムで何が起こるかについて、国際原子力機関（IAEA）のような何らかのグローバルシステムを必要とすると信じています。それらは真にグローバルな影響を持つでしょうし、どのような監査、どのような安全対策が配置される前に展開できるかについて考えるべきだと思います。スーパーインテリジェンス、あるいはあなたがそれを何と呼びたいかはともかく、AGIを展開するためです。そして、さまざまな理由から、UAEがその議論をリードするのに非常に適していると思います。そのために、世界中のリーダーと一緒に1日間の会議を主催し、それについてブレインストーミングを行いたいと思います。

オマール：それはもうやろうと思っています。実行したいと思います。来てくれてありがとう。私たちは、規制の問題に移りたいと思います。人工知能またはAIの規制について初めてこの会話をしたのは、間違いなく2017年か、それともロサンゼルスで開催された会議でお会いしたとき、16年または17年のどちらかでしょう。そして、私たちは議論をしていました。あなたは、イーロン・マスクなど他の数人と一緒に、世界を変えるAIのビジョンを提示しました。また、いくつかの危険についても言及しました。今日、規制に関する多くの取り組みがあります。国連、G20、G7などによる努力があります。これらの努力はマークを打っていますか？それとも、私たちがやるべき他のことがありますか？ここには国際機関や政府を代表する多くの人々がいます。私たちは何をもっとすべきですか？それがうまくいっている場合、どのようにそれをさらに良くすることができますか？

サム：率直に言って、これは必ずしも悪いことではありませんが、まだ多くの議論の段階にあります。つまり、世界中の誰もが会議を開催しており、誰もがアイデアやポリシー論文を持っています。それは大丈夫です。私たちはまだ討論が必要であり、健全である時期にいますが、次の数年で具体的なアクションプランに移行する必要があります。それには、世界中の本物のバイインが必要です。

オマール：それについてもう少し詳しく教えていただけますか？具体的に何が必要ですか？

サム：正直なところ、それはOpenAIが言うべきことではありません。私たちは多くのアイデアを持っており、それらを議論に貢献しようとしています。他の多くの人々も多くのアイデアを持っています。これは大きなことです。これは私たち全員に影響を与えるものです。私は、私たちがこれを管理できると非常に確信していますが、それには大きな協力が必要です。そして、それは世界のリーダーたちが一緒に来て、それを設定する私たちの仕事ではないと思います。

オマール：もう一つ、資源がOpenAIやUAEのような企業や国にない政府について話しましょう。これらの政府は、これらの問題に取り組むための資源や方向性が限られています。LLMレースについて彼らにどのようなアドバイスをしますか？あなたの意見では、彼らはクローズドソースツールを使用するべきですか、それともオープンソースツールを使用するべきですか？私たちはサイドを選ぶべきですか、それとも最適なアプリケーションと最適なユーティリティのみを追求するべきですか？この問題にどのように取り組むべきですか？

サム：私たちはこれについて多くの考えを巡らせています。私たちは、AIサービスを提供したい国にとって意味のある提案を持ちたいと考えています。その間、人々が現在行っているように、これらのAPIを使用するか、オープンソースモデルを実行することは理にかなっています。

オマール：間違っていなければ、あなたたちはgpt3をオープンソース化しましたか？

サム：gpt2をしました。3ではありません。

オマール：新しいものを発売する際に、たとえば5が登場するときに3をオープンソース化することを検討していますか？それはテーブルにありますか？

サム：私たちが時間が経つにつれてより多くのものをオープンソース化することを期待するべきですが、正確に何を、いつ、どのようにするかはまだ試行錯誤しています。現在、世界には素晴らしいオープンソースモデル、オープンソース言語モデルがあります。私たちがする必要があるのは、別の類似したモデルではなく、役立つ新しいものを提供することです。それが何であるかを考え出そうとしています。

オマール：では、恐怖を煽る人々や機会主義者が話すことに飛び込みましょう。AIの展開について最も恐れていること、最も楽観的なことは何ですか？あなたが夜中に起きて、朝起きる理由を1つ教えてください。

サム：夜中に起きるのは簡単です。それはすべてのSFのものです。SF作家は非常に賢い集団であり、AIについての数十年のSFの中で、これがどのように間違っていくかを想像するための信じられないほど創造的な方法がありました。そのほとんどはコミカルですが、簡単に想像できるものがいくつかあります。私は、通りを歩くキラーロボットのような間違った方向にあまり興味がありません。もっと興味があるのは、非常に微妙な社会的不一致で、私たちが社会にこれらのシステムを持っていて、特に悪意がなくても、物事がひどく間違っていくところです。しかし、毎朝エネルギーを持って起きる理由は、実際には物事が非常にうまくいくと信じているからです。私たちは、ダウンサイドのケースを軽減するために一生懸命働かなければなりません。それらは非常に重要であり、現実の可能性です。しかし、テクノロジーを安全に展開する方法についてこれほど熱心に考える理由は、上昇が非常に素晴らしいからです。私たちは、今日の人々が持っているよりも良い生活を持つことができる世界を簡単に想像することができます。本当に高品質の知性を豊富に持っていて、それらのツールを使って何でも作りたいものを作ることができれば、それはかなり素晴らしいことです。

オマール：最後の質問です。今、あなたがトルコの10代の若者、中東の別の10代の若者、例えばカタールやUAE、そしてアフリカやアジアの誰かの前に座っていると想像してください。彼ら全員があなたに将来について何をすべきか尋ねています。どのようにしてこの技術が私たちの仕事を奪わないようにするか、AIの時代において私たちが関連性を保つ方法、そしてあなたが非常に楽観的で非常にエキサイティングだと説明した未来の一部になる方法は何か。彼らは何を学ぶべきですか？特定の分野を学ぶべきですか？特定のコースを受けるべきですか？それともただテクノロジーを使って遊ぶべきですか？彼らにどのようなアドバイスをしますか？

サム：まず、あなたは信じられないほど幸運です。おそらく人類の歴史の中で最も良い時期に成長しています。この技術を理解している若者は常に、ほぼ常にですが、特にこの場合には、技術の初期採用者です。そして、あなたはこれらのツールを使って、前の世代の人々が想像もできなかったことを行うことができるでしょう。あなたは、あなたのキャリア全体を驚くべき新しいことを行う機会で満たされるでしょう。あなたは、前の世代の人々よりもはるかに影響力があり、成功している企業を始めることができるでしょう。あなたは、非常に拡大的で、機会に満ちた時代に住むことになるでしょう。そして、あなたはほぼ何でも行うことができるでしょう。私たち全員の下の土地が変わり、ルールが変わっていますが、作成される価値の量と、個々のクリエイティブビジョンと意志を表現する能力は素晴らしいものです。

オマール：サム、あなたの時間と洞察に感謝します。近いうちにここで直接お会いするのを楽しみにしています。ありがとうございました。またすぐに戻ってくるのを楽しみにしています。ありがとうございました。


まとめ

サムアルトマンの規制案(AIのサンドボックス実験)に対してオマール氏はUAEのRegulations Labと呼ばれるUAEの革新的なテクノロジーを規制するアプローチ方法を紹介していました。

この手法は規制当局、民間部門、イノベーター、ビジネスリーダーと協力してイノベーションのスピードの合わせた法律を共同で制定していくプロセスのようです。

そのプロセスには4段階あり、Reglabの適用、規制のユースケースプリント、UAE内閣の承認、ライセンスの影響評価となっています。

AGIのような革新的なテクノロジーについても慎重な社会適用を目指すため、UAE含めた限られた政府もしくはエリアでのAGIによる社会的経済的な影響の調査がされるかもしれません。

またその先のASIを含めた議論もUAEは半導体ネットワーク全体に多大な投資を米国と協力して行っているため、中心的な役割を果たしていく可能性があるでしょう。

今後のUAEを含めた世界的なAIガバナンスの動向には注意を払いたいと思います。




この記事が気に入ったらサポートをしてみませんか？