破壊者たち：サム・アルトマンとブライアン・チェスキーがレスター・ホルトと対談

どこでも革新者、破壊者、創業者、友人。シリコンバレーで最も革新的なリーダー2人が一つのステージに登場します。私は、私たち技術リーダーだけが未来を解決することを望んでいません。テクノロジーは包括的であるときに最高のものになります。OpenAIは、人工知能が私たちの生活のほぼすべての側面を改善する可能性があると同時に、深刻なリスクも生み出す可能性があるという信念に基づいて設立されました。私たちは協力してそれを管理する必要があります。サムは生成AIで、まあ、すべてを革新したいと考えています。この技術をどのように統合するかは、私たちの時代の最も重要な問題の一つだと思います。そして、ブライアン・チェスキーがいます。彼はホスピタリティと観光業界を革新し、私たちの休暇の過ごし方を変えました。私たちは文化の一部であり、ブランドは世界中で名詞や動詞として使われています。チェスキーは、これが今まで成功した最悪のアイデアだったと言っています。私たちは人々のために素晴らしい体験をデザインしています。それがたまたま良いビジネスになっているだけです。どちらも議論の余地がないわけではありません。Airbnbが家賃や近隣に影響を与える可能性があることを懸念する声もあります。そして、AIのポテンシャルのすべてに対して、それは眠っている魔神なのでしょうか？人類にとって存在論的な脅威なのでしょうか？物事が進んでいるスピードに対する非常に現実的な不安があることは理解しています。私たちはこれらの変革的なプラットフォームに全面的に賭けるべきなのでしょうか？サム・アルトマンとブライアン・チェスキーをお迎えします。
[音楽]
[拍手]
チェスキー：でも、あなたたちが拍手をもらうんですよ。私は何も発明していません。ゼロです。
司会：お二人にお会いできて光栄です。ようこそ。みなさん、ご来場ありがとうございます。この会話を楽しみにしています。ええと、まずは皆さんに知っておいていただきたいのですが、お二人は友人で、あなたがたの仕事は、いくつかの重要なプロジェクトで協力し合っています。そういったことについても話を聞いていきたいと思います。なぜこのお二人がここにいるのか疑問に思っている方もいるかもしれませんが、それが理由です。お時間をいただき、ありがとうございます。
では、サムから始めましょう。少し視点を変えて、今日この会場にいる人のうち、何パーセントの人がAIと何らかの形で関わっていると思いますか？
サム：ああ、私なら90％以上だと賭けますね。
司会：ちなみに、厳密な数字は求めていません。
サム：そうですね。そして、私たちのほとんどは、AIが私たちの生活のどこに影響を与えているのかわかっていないんです。ChatGPTを使っている人もいて、それを使っているかどうかはわかりますが、他のすべてのサービスにAIを組み込んでいる人もいて、私たちのGPT-4や他のモデルを取り込んで、多くのサービスを向上させているんです。
司会：AIは過去1年で重要な閾値を超えたと思いますか？
サム：はい、そう思います。でも、AIが超える閾値は多くあると思います。以前、ブライアンが実際にこれについて素晴らしいアドバイスをくれたんですが、私たちはAGI（汎用人工知能）というモメントに到達するという話をしていました。それは非常に曖昧な用語でしたが、最初からそのように考えるのは意味がないと思います。今では、システムが新しい能力を獲得し、より優れた能力を持つようになる一連の閾値だと考えています。
今日、ChatGPTをいくつかのことに使えますし、将来はもっと役立つタスクに使えるようになるでしょう。例えば、私たちのパートナーの一つであるColor Healthは現在、GPT-4をがんのスクリーニングと治療計画に使用しています。それは素晴らしいことです。そして、将来のバージョンは、がんの治療法の発見を助けるかもしれません。私はそれを連続した閾値だと考えています。しかし、確かに、私たちがコンピューターと自然言語で話し、コンピューターが私たちを理解し、助けてくれるということは、確かに一つの閾値を超えたと言えるでしょう。
司会：最近のニュースで見たいくつかのことについて、あなたの反応を聞きたいと思います。お二人とも、時にはとても早く友人を作ったり、敵を作ったりしています。サム、あなたは最近Appleと大きな契約を結びました。イーロン・マスクはそれに怒り、彼の会社ではApple製品を使わないと言いました。そのような反応を予想していましたか？
サム：ええ、それが起こるのを見ましたが、予想はしていませんでした。実際に起こるとは思っていません。でも、予測はしていませんでした。
司会：それはOpenAIの周辺で起こっていることを表しているのでしょうか？他のテクノロジー企業からの反応という意味で。
サム：いいえ、それはただのイーロンの反応だと思います。
司会：ブライアン、あなたに話を向けましょう。Airbnbは最近AIのスタートアップを買収しましたね。今や、すべてのテクノロジー企業がこの分野で何かを持つ必要がある、つまりパートナーシップを結ぶか、独自の開発計画を立てる必要があるという段階に来ているのでしょうか？
ブライアン：そうですね、今や世界のほぼすべての企業がインターネット上にあるように、AIは私たちがすることすべてに完全に組み込まれていくと思います。サムについて素晴らしいのは、サムがかつて言っていたことです。「偉大な起業家になりたければ、キャリアの中で一つの大きなことについて正しくなければならない」と。そして、サムはテクノロジーの歴史の中で最大のことの一つについて正しかったと思います。なぜなら、これは私たちがこれまで見たどのテクノロジーよりも人々の生活に影響を与えるものになるからです。
でも、多くの会話で、AIをこの存在論的な謎めいたものとして話していると思います。私たちが見逃しているのは、人々が実際に生活をより良くするための実用的な方法について話すことだと思います。Airbnbの例を挙げることができますし、サムにも多くの例があります。
今日のAirbnbは、都市を入力して家を見つけて予約するというものです。それがAirbnbであり、それはここ20年間のインターネットの仕組みとほぼ同じです。しかし、将来的には、あなたをより良く理解するシステムを想像してください。それが本当の約束です。あなたを理解できるコンピューターです。「レスター、あなたは誰ですか？あなたの希望は何ですか？あなたの夢は何ですか？どこに旅行したいですか？人生で何をしたいですか？」と聞くことができ、そしてあなたを本当に理解し、より良いマッチメーカーになることができるのです。あなたを人々、コミュニティ、サービス、体験、あなたが望むものと結びつけることができます。世界のどこにでも旅行できるようになるのです。これがAirbnbがAIを使う方法だと思いますが、ほぼすべての業界がAIで作り直されると思います。彼らは参加できると思いますが、ここでの賭け金は他のものよりも高いのです。
司会：あなたが話していることの多くは願望的なものですが、AIに関しては、私たちみんなが理解している本当の恐れがあります。それは、これを運営している人々にとって何を意味するのでしょうか？私たちのほとんどは、このバスの乗客に過ぎません。私たちはあなたたちが信じられないようなことをしているのを見ています。マンハッタン計画に例えられたりして、これがどこに向かっているのか、そしてその背後にいる人々は誰なのか、私たちはこの人々を信頼できるのかと疑問に思っています。もしできれば、道徳的責任について話してください。そして、私たち全員がこれらの変化を起こしている人々、あなたたちのような人々を知ることについて話してください。
ブライアン：はい、私は共有できます。私は2008年にサムに会いました。シリコンバレーに来たとき、テクノロジーという言葉は、良いという言葉の辞書的定義と同じくらいでした。Facebookは友達の写真を共有する方法で、YouTubeは猫の動画のようなもので、Twitterは今日何をしているかについて話すものでした。そこには全体的な無邪気さがありました。時間が経つにつれて、私たちが気づいたのは、ツールを手に入れたとき、そしてテクノロジーはツールですが、スティーブ・ジョブズが言ったことの一つは、彼がすべてのコンピューターの背中にハンドルを付けたことです。彼は「窓から投げ出せないコンピューターを信用するな」と言いました。これらはツールであり、私たちがそれらを支配するべきで、それらが私たちを支配するべきではないと言いました。
しかし、一つのことが起こったのは、何億人もの人々の手にツールを置いたとき、彼らはあなたが意図しなかった方法でそれを使うということです。私たちは今、この新しい世代でずっと慎重で現実的になっています。なぜなら、私たちは前の世代の多くの教訓を学んだからです。テクノロジーは主に良いことに使われますが、常に意図しない結果があることを学びました。
今回、私がサムがしているのを見たことの一つは、彼がこのテクノロジーがどこに向かっているかについて非常に慎重で、全く楽観的ではないということです。そして、実際には規制の必要性があると政府に伝えています。
司会：サム、あなたの見解を聞かせてください。自分の会社から解雇されたことについて話す機会を与えましょう。なぜ解雇されたのですか？
サム：まず、ブライアンが先ほどの質問で言ったことと、あなたの以前の質問に触れたいと思います。それから、その件について話すことを喜んでお話しします。
これは社会にとって大きな変化になるでしょう。他の技術的なトレンドとは異なり、今日、ChatGPTはこの非常に役立つツールで、一度使えば怖くないということがわかっても、これらのツールがより capable になり続けるペースで、将来どこに向かうのか、それは何を意味するのかという非常に理解できる不安感があります。
素晴らしいことはたくさんあり、それについて一日中話すことができますが、コンピューターが私たちを理解し、私たちを知り、私たちを助け、これらのことをするだけでなく、「ねえコンピューター、物理学のすべてを発見して」と言えば、それが実行できるようになったとき、私たちの人生はどうなるのでしょうか。「素晴らしい会社を立ち上げて運営して」と言えば、それができるようになったとき、どういう意味を持つのでしょうか。
それは大きな変化です。私たちがこの技術の管理者の一部であるという大きな信頼を得なければなりません。他にもこれに取り組んでいる人はたくさんいますが、私たちは自分たちの実績を誇りに思っています。私たちが提供してきたシステムと、時間をかけて注意深く取り組んできたことを見れば、数年前にGPT-2やGPT-3を見て、これらの初期システムを十分に安全に使えるようになるとは思われなかったレベルをはるかに超えた、一般的に受け入れられる堅牢性と安全性のレベルに到達できたと思います。
でも、そこには未来が大きく迫っていて、私たちは世界に出すシステム、正当な意思決定の方法、人々を広く力づける方法、そしてこれらすべての変化に直面しても世界の安定を促進し続ける方法で、信頼を得続けなければなりません。そして、それは人々を非常に不安にさせます。
全取締役会が私を解雇して戻ってきたという全体的な出来事については、ブライアンは大変助けてくれました。明らかに非常に苦痛な経験でしたが、不安のレベルがとても高くなっている理由は理解できます。以前の取締役会メンバーは、AIの継続的な開発について神経質になっていて、私や私たちのやり方について何らかの感情を持っていたのだと思います。彼らが後で言ったこと、行動の仕方には強く同意できませんが、彼らは基本的に良い人たちで、未来について心配し、良い結果にたどり着く方法を見つけようとしていたのだと思います。
新しい取締役会には非常に興奮しています。彼らは非常に建設的で役立ち、経験豊富で強力です。それ以来、非常に生産的なことになっています。しかし、その経験を乗り越えるのは恐ろしいものでした。それが起こっている瞬間は、「これは狂ったことだ、どうやってこれを元に戻すか考えよう」というだけでしたが、ブライアンは信じられないほど助けてくれました。しかし、その後の期間、感情的なショック状態で破片を拾い集めなければならなかった時期は本当に悪かったです。
司会：あなたは破片を拾い集めようとしていました。ブライアン、あなたは電話をかけていましたね？
ブライアン：はい、説明しましょう。時間を遡って、ChatGPTが2022年11月下旬に発表されたときのことを思い出してください。それはiPhoneの発売以来おそらく見たことがないような現象でした。一晩にしてすべてが変わることがわかりました。サムと会って、「私もこのようなロケットシップを少し経験したことがある。AIの中核的な研究についてはアドバイスしないが、マーケティング、ステークホルダー管理、PR、デザイン、製品など、研究以外のことについては、あなたはロケットシップに乗ることになる。私が今日ここにいるのは、人々が私を信じ、助けてくれたからだ。シリコンバレーの素晴らしいところは、高い信頼があり、人々が助けてくれるということだ」と言いました。私はただ彼を助けたかったのです。
これは約1年続きました。そして1年後、私は誰かからテキストメッセージを受け取りました。「サムがOpenAIから解雇された」と。私は「解雇？」と思い、すぐにサムにテキストを送りました。彼の返信は5分後で、彼はちょうど解雇されたことを知ったばかりでした。彼は「とてもひどい」と言いました。私は「何があったの？」と聞きました。
そして電話で話しましたが、彼には何が起こったのかわかりませんでした。十分な説明がなかったのです。ちなみに、彼の共同創業者で取締役会メンバーでもあった人も取締役会から外されました。それはとても疑わしく思えました。
私は彼とグレッグと電話で話し、これは公平なプロセスではなかったという状況に本当に不快感を覚えました。常に公平なプロセスであるべきですが、特に創業者の場合はそうです。なぜなら、彼らは非常に代替が難しいからです。
最初の24時間で気づいたのは、サムを擁護する人があまりいなかったことです。私は自分の最も暗い時期、危機の時に、人々が私を擁護してくれました。そして、それはサムのためにしたいと思ったことです。基本的に、私たちは物事について話し合い、私は「あなたがすべきことは、内部的にも外部的にも、あなたが知っていること、起こっていることについて完全に透明性を持つことだ」と言いました。
しかし、最も注目すべきこと、そして彼を擁護したいと本当に思わせたのは、危機の中で人々について多くのことを学ぶということです。人がどのような人物かを本当に知りたければ、危機の中での彼らを見てください。この5日間の出来事の中で、サムは一瞬たりとも自己保身に焦点を当てませんでした。彼は完全に...私は「なぜ自分のために立ち上がらないんだ？なぜもっと自分のことを気にしないんだ？」と言っていました。誰かがあなたのために立ち上がらなければならない、あなたは自分のために立ち上がってさえいないと。彼はただチームとチームにとって最善のことに非常に集中していました。そして、それが私をとても...明らかに彼を助けることに集中させた理由だと思います。
司会：サム、最近受けた悪い宣伝について話を向けたいと思います。Sky の声をめぐる騒動も含めてです。Sky の声がスカーレット・ヨハンソンの声に似ているという懸念を晴らすのに役立つかもしれないのは、あなたが Sky の声を担当したと言う俳優から直接話を聞くことです。それは可能ですか？
サム：確かに、彼女がそうしたいと思えばね。彼女はエージェントを通じて声明を出していますが、私にはわかりません。彼女がしたいことなら何でも、私たちは全く問題ありません。
司会：全体的に、より大きな問題を提起しています。AI の世界で私たちは何を所有しているのでしょうか？私たちは自分の肖像権をコントロールできるのでしょうか？今、ディープフェイクポルノを目にしています。人々の顔が入れ替えられたりして...これらは個人レベルで有害です。OpenAI だけの問題ではないことは分かっていますが、業界はこれにどのように対応するのでしょうか？
サム：私たちは、業界がこの問題に対して非常に強い立場をとる必要があると考えています。私たちは明らかにそうしています。そして、この技術が人々に危害を加えるために使用されている他の問題もあります。業界はそれらに対して非常に強い立場をとる必要があると考えています。
私たちは、これらの誤用を防ぐための規制を求める声を上げるだけでなく、提供する製品やサービスで本当に良い例を示し、非常に高い基準を自らに課すよう努めています。これは起こっていると思います。しかし、これらのことは避けられなかったのでしょうか？この技術が成熟するにつれて、明らかにリスクが来ると見ていたのではないでしょうか。ディープフェイクや顔のスワッピングなどについて。
ディープフェイクについては、はい、技術がそれを可能にすることは避けられませんでした。したがって、もちろんそれを可能にするシステムが存在することになります。しかし、ここで社会と政府が役割を果たす必要があると思います。技術のいくつかの使用例を許可しますが、私たちが快く思わないものもあります。しかし、いくつかの場所では線を引く必要があります。顔のスワッピングやディープフェイクのリベンジポルノは、線を引くのに最適な場所です。
司会：ご存知の通り、大統領選挙が近づいています。すでにディープフェイクが登場し始めているのを目にしています。これについては何年も前から話されてきました。これは非常に困難な選挙になるだろうと。これらのものが現れ始めているのを見て、あなたの考えはどうですか？そして、私たちが虚偽情報に圧倒されないようにするための、あなたの責任、あなたの業界の責任についてどう考えていますか？
サム：そうですね、これは米国だけでなく、今年多くの他の選挙でもAIが主要な技術要素となる最初の選挙になると思います。出所の証明は本当に重要です。正確な世論調査情報を得ることと、前回の選挙サイクルで他の技術プラットフォームで見られた問題のいくつかを避けることが重要です。そして、ディープフェイクのようなものを防ぐことも。これらは、この選挙サイクルで私たちが最も注目している3つの問題だと思います。
また、人々がまだ気づいていない、技術を誤用しようとする他の方法があるかもしれないことも付け加えておきます。そのため、選挙が近づくにつれて、モニタリングの取り組み全体を設置し、人々が技術を乱用しようとしている追加の領域があるかどうかを確認するために、非常にタイトなフィードバックループが必要になると思います。
司会：選挙の話題に触れたので、ブライアン、あなたから始めましょう。この選挙の結果が、あなたたちの個々のビジネスにどのような影響を与えると思いますか？
ブライアン：言うのは難しいですね。Airbnbは基本的に都市ごと、州ごとのものなので、連邦政権の変更は歴史的に私たちに大きな影響を与えていません。もちろん、私たちは109か国、220の国と地域で事業を展開しているので、かなり柔軟なビジネスです。パンデミックの間に見たことの一つは、ビジネスの一部が変化すると、他の部分に適応するということです。そのため、誰が選ばれるかによって大きな変化は予想していません。
司会：サム、あなたはどうですか？
サム：誰が選ばれるかによって大きな影響があると予想していますが、それがどうなるかはわかりません。AIが世界でますます重要な地政学的優先事項になっていくように思えます。しかし、正確にどのように進むかは言いづらいです。
ブライアンについて本当に価値があると感じていることの一つは、彼が先ほど言及した、最初の年に彼がしてくれたことです。ChatGPTが離陸し始め、私にとってすべてが狂ったように感じたとき、多くの人々が「ああ、あなたを助けたい。これができる、あれができる」と言ってきました。みんな言うときは本気だと思いますが、結局、みんな忙しいんです。ブライアンは、2週間ごとに3時間くらい私と一緒に座って、リストを渡してくれました。「これが今やるべき5つのことだ。ここであなたは遅れている。ここであなたは失敗している。ここで先手を打つべきだ。ここで考えるべきだ」と。そして、ほとんど常に正しかったんです。私は黙って、そのアドバイスに従うことを学びました。
ブライアンが最近言い始めたことの一つは、「おそらくあなたは政治と政策について十分に考えていない。それが世界がAIをどのように考えるかにとってどういう意味を持つか」ということです。「ここで雇うべき人々がいる。ここでこれをマッピングし、戦略を考えることの意味はこうだ。ここであなたがすべきこと、絶対にすべきでないことがある」と。それは非常に役立っていて、私たちのビジネスにとって本当に重要になると思います。
レスター、私が思うに、シリコンバレーに来たとき、これらのプラットフォームが今日私たちが知っているような社会への影響を持つとは考えていませんでした。そのため、サムが持っているマインドセット、そしてあなたが彼に尋ねている質問は、おそらく15年前には技術リーダーたちに尋ねられなかったでしょう。業界全体が変わり、会話全体が変わったのです。サムは、大手テクノロジー企業が政策やステークホルダー管理についてはるかに早い段階でチームを作っていたよりも、もっと早くチームを構築しています。
司会：ChatGPTやその他の開発研究で学んだことの一つは、これらのモジュールをトレーニングするためのデータの要件です。それは飽くことのない欲求のように見えます。それは、公正使用とは何か、そしてあなたが使用できる著作権のある資料は誰のものかについての見方を変えましたか？
サム：まず第一に、これらのモデルが賢くなる未来がどのようなものになるかはまだわかりません。永遠により多くのデータが必要になるのでしょうか？それはあまりありそうにないように思えます。人間が1冊の教科書から学べることと、これらのAIモデルが今のところ必要とすることは非常に異なります。また、新しい科学を発明するためには、ただそこに座って考え、実験を行う必要があります。それはどの教科書にも載っていません。なぜなら新しいものだからです。そのため、私は訓練データをどのように考えるか、そしてこれらのモデルを本当に能力のあるものにするために何が必要かという未来は、変わっていくと予想しています。
司会：しかし、これらの製品の開発において、それは障害になるのでしょうか？それが私が言おうとしていたことです。
サム：私が言おうとしていたのは、これは科学であり、確実にはわかりません。障害にはならないと思います。
とはいえ、フェアユースの問題や、データを作成する人々、知識を作成する人々、素晴らしい本を書く人々をどのように考えるかという問題については、法的観点からは現在のフェアユースの立場に自信を持っていますが、これがどのように進化するかを見ると、世界全体が参加できる新しい経済モデルを考え出す必要があります。
これは、私たちが訓練するデータを持っている人々だけでなく、モデルにフィードバックを提供する人々、モデルが訓練されていないかもしれないが表示したい素晴らしいリアルタイムのニュースを作成する人々にも及びます。そこには多くの作業が必要です。
私は、AIが人々のインターネットの使い方を大きく変えるわけではありませんが、ある程度変える可能性があると思います。そうなると、過去のいくつかの経済モデルが進化する必要があることがわかります。これは訓練データだけの問題ではなく、AIを通じて表示されるコンテンツ全般に関するより広い会話だと思います。
司会：人工知能全般（AGI）について聞きたいと思います。これは大幅にゲームを引き上げることになりますね。私の理解が正しければ、これはコンピューターが私たちができることは何でもできるようになる段階ですよね？それは公平な要約ですか？
サム：そうですね、最初はそれを一つの瞬間として考えるのは間違いだったと思います。先ほど話したように。今では、人々はAGIという言葉をさまざまな意味で使っています。
私には、世界に向けて能力の大幅な増加がどこにあるかをある程度ロードマップとして示すことが非常に有用に思えます。人々ができることをすべてできる、新しい科学を生み出せる、企業全体ができることをできる、といったことです。産業界がある程度合意して、これらの会話をもう少し規律のある方法で行えるようにすることが非常に有用だと感じています。
ブライアン：そして、私たちが話していることの一つは、AIからAGIへの一つのプロメテウス的な瞬間ではなく、多くの段階があるということです。ちょうど技術の歴史のように。そして、社会を巻き込むこと、ブラックボックスで操作して、ほんの数人の人々が未来をコントロールしているように人々が思うのではなく、他の開発者やコンピューター科学者、研究者、政策立案者に対して透明性を持って、これらが私たちが進んでいる段階であり、これが私たちが見ていることで、これが次の4つの段階だと思うことを伝えることが本当に重要だということです。
司会：しかし、これは別のレベルでのレースではないでしょうか？賭け金はとても高いです。サム、あなたは自分をレースの中にいると考えていますか？そして、人工知能全般（AGI）の段階に到達するレースに勝つと思いますか？
サム：私はそれをレースとは考えていません。それがなぜ非常に説得力のある劇的な話し方なのかはわかります。国家間のレースになる可能性はあると思います。いつかは。しかし、現在これを開発している企業は、皆、賭け金の高さ、これを正しく行う必要性を感じていると思います。
また、ブライアンの指摘のように、私たちが全員で競争しているマイルストーンがあるわけではありません。これは技術の継続的な進化です。私たちは砂を溶かして、それをトランジスタに変える方法を見つけ出し、オペレーティングシステムを構築し、ある種のプログラミングを行う方法を見つけ出し、それをどんどん大きくしました。そして、ある意味で賢いが、自律的に走り回るものではないこれらのシステムを訓練する方法を見つけ出しました。これらは私たちが以前よりもより多くのことをするために使用するツールです。コンピューターを使って以前よりも多くのことをしたように、産業革命で機械を使って以前よりも多くのことをしたように、農業を使って以前よりも多くのことをする時間と空間を持てるようになったように。
私はこれをマイルストーンへのレースとは考えていません。これは次のステップ、そしてその次、そしてその次の継続的なものです。ツールはどんどん良くなっていきますが、起こることは、技術は確かに中立ではなく、ツールは本質的に中立なものではありませんが、ツールを構築することで私たちが与えられる影響は重要です。それを正しく行いたいと思います。人々はこれらのツールを使って、私たち全員が集合的に生きる未来を発明するでしょう。ChatGPTが存在する前に一人の人ができることは印象的な飛躍であり、GPT-6や7に到達するころには、一人の人ができることは信じられないほど増加するでしょう。私はそれにとてもわくわくしています。それが世界が良くなっていく物語だと思います。私たちは技術を作り、人々はそれを使って新しいものを作り、創造的なアイデアを表現し、社会は改善されていきます。
司会：しかし、これらのプログラムについて話すとき、そして私たちができることをする能力を与えるとき、私たちにはさまざまな価値観の集合があります。私たちは共通の品位を時々あまり共通ではない方法で見ています。コンピューターにそれを教える方法で、害を及ぼさないようにするにはどうすればいいでしょうか？どのようにして正の価値観を教えるのでしょうか？
サム：私を驚かせたことの一つは、これがAI整合性問題全体を解決するとは言いたくありませんが、現在のシステムのレベルでは、モデルに特定の価値観の集合を教え、特定の方法で振る舞うようにする能力は、この時点で私が思っていたよりもはるかに優れています。
しかし、より難しい問題は、誰がそれらの価値観を決定するのかということです。誰がデフォルトを決めるのか、個々のユーザーがその広い境界内でどの程度カスタマイズできるのか。初期のステップとして、私たちは1〜2ヶ月前に「仕様」というものを発表しました。これは、私たちの望むモデルの振る舞い、私たちのモデルに従ってほしい価値観を述べたものです。これにより、少なくとも人々は、モデルが彼らの気に入らないことをしたときに、それがバグなのか意図的なものなのかを判断できます。そして時間とともに、社会はそれらの価値観について議論し、私たちはそれに適応できます。
この問題に関する技術的な進歩には非常に励まされています。しかし、その価値観の集合を書くこと、あるいは社会にそれらの価値観がどうあるべきかを議論し合意させることは、はるかに難しい課題です。
司会：ブライアン、あなたはサムにときどきアドバイスをしてきたと話しましたね。どこかで読んだのですが、正確な引用は今手元にないのですが、「やってみて、後で解決する」というような考え方だったと思います。その引用は何でしたか？
ブライアン：それは...この種の研究に関しては、やってみる必要があると信じているということですね。
司会：ブレーキをかけるべきだと思いますか？
ブライアン：そうですね、車に乗っているとき、車が速くなればなるほど、前方をより遠くまで見る必要があり、コーナーを予測する必要があります。この技術がとても強力だということを認識しているからこそ、私たちはこんなに慎重になっているのだと思います。人々は本当にこれらのシステムをどう扱うべきか苦悩しています。2007年から2008年にこのようなことをしていた記憶はありません。今はとても違う時代だと思います。
サムと私が話したことの一つは、早い段階で他のステークホルダーを巻き込むことでした。昨年行ったことの一つは、彼が世界中を回って人々と会うツアーでした。それは主に人々からフィードバックを得て、人々を教育し、本当にフィードバックを得る方法だったと思います。
レスター、重要なポイントは、社会を置き去りにするほど速く進まないということです。誰もが一緒に進むくらいの速さでしか進まないということです。ここにいる皆さんが、参加できると感じ、意見を言えると感じられれば、恐れるべきことは本当にないと思います。恐れるべきは、私たちが理解できないもの、私たちが置き去りにされるもの、そして私たちがコントロールできないほど暴走してしまうものです。それが私たちが住みたくない未来です。
また、AIという言葉を言うと怖く聞こえるかもしれませんが、ChatGPTと言うとそれほど怖くありません。なぜなら、それは非常に具体的なツールだからです。ですので、目の前にあるものに焦点を当て、人々をどのように助けられるかに注目する必要があります。今、多くの問題があります。OpenAIは多くの科学的研究と発見につながる可能性があります。ChatGPTはアーティストにとって信じられないほどのツールになる可能性があります。Airbnbでは、人々を本当に結びつけることができると考えています。私たちは巨大な孤独の流行の中で生きています。これを使って人々を結びつけることができます。結局のところ、テクノロジーそのものではなく、テクノロジーを持つ人々、彼らの価値観、そして彼らが良い人々であるかどうかが重要なのです。
サム：私が考えているのは、安全な技術を作る方法を学ぶ必要があるということです。安全な製品を構築する方法を見つける必要があります。それには、社会との継続的な対話が含まれます。「これはこのような影響があり、予期しなかったか望んでいなかった」とか、「あなたが理解していなかったこの理由で、この重要なことをさせてくれていない」といったことについてです。
私たちが広い世界や私たちの製品を使用し影響を受ける人々と話す方法、そして彼らが望むことを反映させる方法、そして安全な運用計画です。私たちは能力を予測することがますます上手くなっています。もちろん、研究は開かれた質問です。常にどこに向かうかわかるわけではありません。しかし、新しいモデルのトレーニングを開始する前に、私たちは起こる可能性のある危険な能力を言いたいと思います。それをテストするための準備フレームワークがあります。時には、これに非常に長い時間がかかることがあります。
例えば、GPT-4では、トレーニングを終えてから発表するまでに約8ヶ月かかりました。その間には、多くの外部との協議やレッドチームの活動が含まれていました。将来のモデルではさらに長くかかるかもしれません。しかし、社会からフィードバックを得ることは非常に重要です。
良くないのは、大きな能力の格差を作り出して、社会とのフィードバックループを持たないことです。そのバランスを取る方法を見つける必要がありますが、はい、正しく行うために時間をかけることは非常に重要です。
司会：未来を見て、それが一部の人々が示唆するほど怖いものだと感じたとき、後退したくなることはありますか？競合他社が前進したいと思っても、一歩後退する必要があると感じる瞬間に備えていますか？
サム：もちろんです。私たちが構築して公開しないことを選んだもの、あるいは長期間保留したものはたくさんあります。他の多くの企業が公開するものを、私たちは公開しません。もちろん、すべての決定を正しく行えるわけではありません。また、ある時点で何かを展開して、それを撤回する必要があるかもしれません。しかし、単に展開しないものもたくさんあるでしょう。
司会：これらの怖いイメージについて話していますが、AIをマンハッタン計画、つまり原子爆弾を作るための競争と比較したことは、あなたの主張を訴える上で助けになりましたか？
サム：私たちは多くの歴史的なアナロジーを提供しようとしています。なぜなら、私たちが間違っているかもしれないし、正しいかもしれませんが、この技術の重要性のレベルが私たちの信じるところを社会に伝えることが重要だと考えているからです。新しい技術に対する完璧な歴史的アナログはありません。
そこで、マンハッタン計画には私たちが今やっていることと似ている部分があると言えます。アポロ計画にも似ている部分があります。iPhoneにも似ている部分があります。私も大好きだったハンドル付きiMacにも似ている部分があります。インターネットにも似ている部分があります。産業革命にも似ている部分があります。しかし、重要なのは、歴史的アナロジーを参照できる部分と、できない部分を示すことです。
この技術の形と、決定や影響は、私が思うに、これまでのどれとも根本的に少し違います。マンハッタン計画とは違うと思います。レースではありませんし、秘密裏に行われることもありません。国々が協力し合うことができ、国境を越えたグループや機関が本当に協力して、私たち全員が同じページにいることを確認できる可能性があります。それが社会にとって最善であり、率直に言って、起業家にとっても最善でしょう。200の異なる法律を遵守する必要がなくなりますから。
司会：あなた方のどちらかが国家について言及しましたが、国家がこの技術を取得して危険な方法で使用するリスクはありますか？
ブライアン：絶対にあります。誰にこの技術を渡すのか、常に本当に注意深くなければなりません。サムが考えていることの一つに戻りますが、彼らが早い段階で開発して公開しないことを選んだ技術の一つは、音声クローニングです。すでに誰かの声をキャプチャーできる技術がありますが、明らかにそれは非常に危険です。選挙を損なったり、大きなセキュリティリスクになる可能性があることは想像に難くありません。
考えるべき一つのことは、これらのツールが誰の手に渡る可能性があるか、そしてそれゆえに、一度魔法瓶から出してしまうと、危険すぎるものになる可能性があるかということです。そのことについて非常に慎重に考える必要があります。
司会：サム、ある報告によると、あなたは人工知能全般（AGI）が100兆ドルもの富を生み出す可能性があると推測し、その富を再分配すると述べたそうです。それは正確な引用でしょうか？そして、もし良ければ、それについて詳しく説明していただけますか？
サム：私が言おうとしていたのは、世界のGDPを倍増させる可能性があるということだったと思います。それは私には妥当に思えます。そして、確かに他の技術革命と一致するでしょう。私たちは、これが生産性の大きな推進力になると考えています。すでにこの初期段階で、人々がそれを使って製品やサービスを大幅に改善しているのを見ています。
司会：しかし、それが多くの人々にとってどのように聞こえるかは理解していますよね？
サム：もちろん、確かにそうです。しかし、ここで歴史的なアナロジーが役立ちます。時間の経過とともに世界のGDPのチャートを見るのが役立ちます。世界のGDPが年間7％で成長できれば...これは非常に速いように聞こえますが、おそらくこのような技術的シフトがあれば、そこまで遠くないかもしれません。頭の中で計算するのは常に苦手ですが、それは10年で倍増するだけだと思います。
この技術が大きな善をなす可能性を真剣に受け止める価値があると思います。そして今、人々がツールを採用しているのを見て、それがどのように見えるかをより明確に理解できるようになったと思います。
司会：ChatGPT 5のプレビューをしていただけますか？技術的な飛躍は何になるでしょうか？そして、それはあなたが望む場所へのより直接的な道筋をつけるのでしょうか？
サム：まだわかりません。私たちは楽観的ですが、まだ多くの作業が必要です。しかし、大きな飛躍になると予想しています。GPT-4が間違えることの多くは、推論をほとんどできず、時々完全に脱線して愚かな間違いをすることです。6歳の子供でさえ決して犯さないような間違いをすることがあります。これらの面で大幅に改善され、より広範囲の有用なタスクに使用できるようになることを期待しています。
司会：時々脱線することがあるというのは、データの不足や不足の結果ですか？
サム：多くの要因が組み合わさっています。私たちはまだ、このような複雑なシステムの開発の初期段階にあります。データの問題もあれば、アルゴリズムの問題もあります。モデルはまだ、将来的にあるべき姿に比べるとかなり小さいです。そして、予測可能に改善されることはわかっています。
多くのことを改善する必要があり、まだ技術の本当に初期段階にあると思います。最初のiPhoneもまだかなりバグがありましたが、人々にとって十分に役立つものでした。
ブライアン：私は、今後数年で世界が人々が考えているほど変わるとは思いません。変化は線形ではなく、ゆっくりと変化し、そして恐らく突然変わるでしょう。みんなまだこの技術をどう使うか模索しています。携帯電話のホーム画面を見て、ChatGPTが登場してから1年半後に、AIによって根本的に変わったアプリがいくつあるか自問してみてください。ほとんど根本的には変わっていません。
私たちはまだ、NVIDIAと共に多くの計算能力を開発している世界にいます。サムとチームはモデルを開発しています。そして、多くの変化は、人々がそれらのモデルの上にアプリケーションを構築するときに起こるでしょう。その用途は非常に多岐にわたります。
私たちが話している大きな用途の一つは科学的発見です。薬物研究に対してこれが何をできるか考えてみてください。社会の最大の問題のいくつかに対して多くのことができます。教育でもできることがたくさんあります。これは基本的に、世界中の誰もが家庭教師にアクセスできるようにするものだと考えています。
創造的な人々について、アーティストが置き換えられるという恐れがたくさんあることは知っていますが、アーティストが参加すれば...私はデザイン学校に行きましたが、これは彼らが使える技術だと思います。このリストを見ていくと、今後3〜5年でたくさんの本当にエキサイティングな機会があると思います。
司会：サム、5年後にはどこにいたいですか？
サム：同じ道をさらに進んでいきたいですね。仕事の最も楽しい部分の一つは、毎日たくさんのメールを受け取ることです。人々がこれらのツールを驚くべき方法で使用しているというものです。「何年も悩んでいた健康問題を診断できました。解決できずに人生を惨めにしていましたが、ChatGPTに症状を入力したらこのアイデアが出てきて、医者に行ったら完治しました」とか、「一生懸命学ぼうとしてきたことがありましたが、できませんでした。ChatGPTを家庭教師のように使ったら、できるようになりました」とか、「開発者として3倍生産的になり、驚くべきことをしています」とか、「科学者としてそれを使っています」といったものです。
そういったメールを受け取るのが大好きです。人々がChatGPTをどれだけ愛しているかが本当に好きです。5年後には、それがもっと多くなることを願っています。人々を喜ばせ、より多くのことをさせ、何をするにせよ最高の自分になれるようなツールを世界に提供し続けていることを願っています。
司会：今後も、あなたが進む道を進むにつれて、このような会話をもっと行うことになるでしょうね。サム・アルトマンとブライアン・チェスキー、時間を割いてここに来てくださり、素晴らしい会話をしてくださって、ありがとうございました。
サム＆ブライアン：ありがとうございます。素晴らしい仕事でした。
司会：はい、ありがとうございます。