【翻訳の訓練】OpenAI CEO Sam Altman | AI for the Next Era

Greyrock（シリコンバレーを拠点としたベンチャーキャピタル会社であり、Facebook、Airbnb、LinkedInなどの成功したテクノロジーコンパニーの多くに投資を行っています）のゼネラルパートナーリード・ホフマンとOpenAI CEOのサム・アルトマンと語るAIの未来。言語モデルがビジネスに与えるチャンスから、科学分野への応用、そしてメタバースや金融市場への影響まで。彼らが目指すのは人類の進歩に貢献するAIアライメント。さらに、AGIやクリエイティビティ、言語モデルスタートアップの差別化方法など、AIの未来に関する深い議論が繰り広げられる。未来を見据え、対処すべき課題を探る。

OpenAI CEO Sam Altman | AI for the Next Era - YouTube

言語モデルとビジネスチャンス: 大手から中小スタートアップまでが狙うマーケット

リード・ホフマン:
では、もう少し現実的な話から始めて、その後、話を広げていきましょう。ここにいる多くの人が興味を持っていることのひとつは、非常に大きな言語モデルが生み出すAPIに基づいて、どんなビジネスチャンスがあるのか、ということだと思うんです。また、どのようなビジネスチャンスがあるのでしょうか？そして、APIは複数のプレーヤーが利用できるようになるわけですが、その上でどのようにユニークなビジネスを創造するのでしょうか？

サム・アルトマン:
そうですね。これまでのところ、コピーライティングや教育サービスなど、素晴らしいビジネスができる領域だと思います。しかし、Googleのような1兆ドル規模の企業を目指す人たちは、まだ見かけません。でも、これからが本番だと思うんです。おそらく、それは成功するのでしょう。あるいは、Googleが自らそれを行うかもしれません。しかし、今後数年間に登場する言語モデルの品質が高まれば、はじめて検索サービスでGoogleに本格的な挑戦ができるようになるのではないでしょうか。そして、人々は "根本的なことがどのように変わったのか" を本気で考え始めているのではないでしょうか。そしてそれは、本当に大きな意味を持つことになるでしょう。

今回のような人間レベルのチャットボットのインターフェースは、実際に機能するものだと思います。これまでのチャットボットも良かったです。ただ、あまりにも早すぎたのです。今なら通用する。チャットボットを通じて、優れたアドバイスが得られる新しい医療サービスや、新しい教育サービスが生まれると思いますが、これらは非常に大きな企業になる可能性があります。

そう遠くないうちに、マルチモーダルモデルが登場し、新たな可能性を広げると思います。プログラムを使って、コンピュータに何かをさせるエージェントや、ナチュラルランゲージ（自然言語）を使って対話する言語インターフェースのアイデアなど、素晴らしい研究をしている人たちがいると思います。あなたはそれを繰り返し、改良することができ、コンピュータはそれを代行してくれるのです。『DALL-E』や『CoPilot』では、初期段階からこのような試みが行われています。

さらに言えば、このような非常にパワフルなモデルは、モバイル以来の真の新しい技術プラットフォームとなると思います。そして、そのすぐ後には必ず新しい企業が爆発的に増えてきますから、それは楽しみなことです。

リード・ホフマン:
今回、APIサービスとして提供した大規模な言語モデルから、キーとなるものは何だと思われますか？AIビジネスを考えている人たちが、差別化したビジネスを継続的に生み出すために考えるべきことは何だと思われますか？

サム・アルトマン:
私は、ごく一握りの大規模な基本モデルが存在し、それを基に他の企業が発展していくと考えています。現在、大きな言語モデルを作っている企業がありますが（APIでその上に構築することが可能）、今後は中間的な存在が重要になると考えています...私は、独自のモデルをトレーニングしようとするスタートアップ企業には懐疑的です。この先も続くとは思えません。私が思うに、今後起こるであろうことは、新しいスタートアップが登場し、既存の非常に大きなモデルを用いて、それをカスタマイズすることでしょう。

医療やコンピューター、あるいは友人など、さまざまな人が自由にモデルを作ることができるようになると思います。そして、そのような企業は、独自のバージョンを持っているため、多くの継続的な価値を生み出すことができます。ベースとなるモデルを作る必要はありませんが、自分たちだけで使ったり、他の人と共有したりできるものを作ることができ、時間とともに改善される独自のデータのフライホイールを持つことができるのです。ですから、この中間レイヤーには、多くの価値が生まれると思うのです。

リード・ホフマン:
その中で、最も驚くようなものは何だと思いますか？例えば、数年前の驚きと少し似ています。今朝、ケビン・スコットに少し話したのですが、それは「インターネットを使ったトレーニング」や「コードを書く」というものでした。もし、そこまで進んでいるとは思わなかったとしたら、どのような驚きがあると思われますか？

サム・アルトマン:
今、人々がしている考え方の最大の誤りは、「確かに私も懐疑的だったかもしれないけれど、この言語モデルは実にうまくいきそうだし、画像や動画もそうなるだろう」と考えていることです。でも、それは人類にとって新しい知識を生み出すものではありません。ただ、これまで他の人がやってきたことをやるだけなのです。それでも素晴らしいことです。知能の限界費用が非常に低くなるのですから。がんを治すわけでもない。人類の科学的知識の総和を増やすわけでもありません。それこそが、この分野の現在の専門家たちを最も驚かせる間違いであることが分かると思います。

科学分野における言語モデルの応用と人類の進歩に寄与するAIアライメント

リード・ホフマン:
そうですね。では、次は科学の話にしましょう。APIをベースにしたものであれ、科学者によるAPIの利用であれ、科学が促進される場所にはどんなものがあり、どのように利用されるのでしょうか？

サム・アルトマン:
現在、2つのことが起きていて、さらにその後に3つ目の大きなことが起きると思います。1つは、AlphaFoldのような科学専用のプロダクトがあることです。これらは膨大な価値を付加しており、今後ますます増えていくことでしょう。もし、他のことをする時間があれば、今すぐにでもバイオ企業を追いかけたいと思うほどです。そこでは素晴らしいことができると思うんです。

また、もうひとつ、私たちの生産性を高めるツールがあります。それは、新しい研究に取り組む際の方向性を考えるためのツールで、私たちのコードをたくさん書いてくれるので、生産性が2倍になるのです。そして、1人のエンジニアや科学者の正味のアウトプットに与える影響は、AIが科学に貢献する上で、明らかにモデルから外れた驚くべき方法であると思います。しかし、このようなツールに何ができるかを今見ただけでも明らかですが、CoPilotはその一例です。それ以上に、もっとすごいものがあります。これは、技術開発や科学的発展の方法を大きく変えるでしょう。この2つは、今、非常に重要で、発展の加速につながると考えています。

でもそれから、人々が模索し始めたと思う大きなことは、--この言葉を使うのをためらうのは、この言葉の使われ方には、それでいいというものと、もっと怖いものがあると思うからですが--AI開発者として、自分で改良を始めることのできるAIです。AI開発者としての自分の仕事をまさに自動化することができるのか。それは、私たちが解き方を知らない、本当に難しい整列の問題を解決するのに役立つのでしょうか？それが、正直なところ、どうなんだろうと思っています。

自分で改良を加えるというのは、SF小説に出てくるような怖いバージョンで、自分のコードを編集して最適化アルゴリズムを変えたりすることです。しかし、自分で改良を加えるという、あまり怖くないバージョンもあるのです。それをテストする。私たちは考えます。

人間にとって特別なプロセスが何であれ、AIにそれを教えることで、トータルでどうなるのか、とても楽しみです。私は、長期的な人類の進歩と経済成長の唯一の真の原動力は、科学の進歩を可能にする社会構造であり、次に科学の進歩そのものであると信じています。そして、私たちはもっと多くのことを成し遂げようとしているのです。

リード・ホフマン:
特に、テクノロジーに展開される科学はそうですね。おそらくほとんどの人がアライメント問題とは何かを理解していると思いますが、アライメント問題については4回の文章を書くくらいのことはできるでしょう。

サム・アルトマン:
そうですね。アライメント問題とは、信じられないほど強力なシステムを作り、それが私たちの望むことをしなかったり、私たちと対立するような目標を持ったりすると、本当に悪いことになるというものです。[ このような事態を描いたSF映画はたくさんありますが ]、あるいは、私たちのことをそれほど気にかけていないような目標を持っている場合です。

つまり、「人類にとって最善の利益をもたらすAGIをどうやって作るか」ということが問題なのです。人類の未来を人類が決定できるようにするには、どうすればいいのでしょうか？そして、私たちが意図していないことが起こる偶発的な誤用や、悪人がAGIを使って大きな損害を与えるような意図的な誤用、さらには、私たちを脅威とみなす生物になってしまったらどうしようという内なるアライメントの問題をどう回避するかということです。

自分で改良を加えるという性質上、必ずしもそうではありませんが、私たちは小規模ながらアライメントの問題を解決する方法をいくつか考えています。そして、OpenAIの一番大きなモデルを、現時点で思っていたよりもうまくアライメントすることができたんです。だから良かったのです。次に何をすべきかというアイデアはありますが、正直なところ、誰かの目を見て、この問題をどうやって解決するか100年先まで見通せると言うことはできません。しかし、AIが十分に発達して、"アライメント研究を手伝ってくれないか？"と頼めるようになれば、それはそれで素晴らしいことだと思います。それが、ツールボックスの中の新しいツールになると思うのです。

リード・ホフマン:
そうですね。たとえば、あなたと私が交わした会話のひとつに、エージェントに「人種差別をするな」と言えるかどうかというものがありますね。モデルやその他のあらゆるものに存在する奇妙な相関データが人種差別的な結果につながる可能性があることを、あらゆる角度から解明しようとするのとは対照的に、実際には自浄作用をもたらしてくれるかもしれません。

サム・アルトマン:
その通りです。モデルが十分に賢くなり、人種差別がどのようなものか、それがどれほど複雑なものかを理解すれば、「人種差別をするな」と言えるようになるのです。

今後数年でAI分野で注目すべきムーンショットとチャレンジングな分野

リード・ホフマン:
ええ、その通りです。今後2、3年の進化という観点で、人々が注目すべきムーンショットは何だと思われますか？

サム・アルトマン:
AIがどこへ向かうかという進化という点で？

リード・ホフマン:
そうですね。

サム・アルトマン:
まずは、より確実性の高いものから始めようと思います。言語モデルは、人々が考えているよりもずっとずっと先に進んでいくと思います。多くの人が「コンピューティングの限界」「データの限界」と言うのは、まさにその通りだと思います。それはすべて事実です。しかし、アルゴリズムによる進歩は今後も続くと思いますので、私たちは非常にエキサイティングな時間を過ごすことになるでしょう。

もうひとつは、真のマルチモーダルモデルが実用化されることでしょう。テキストや画像だけでなく、あらゆるモダリティを1つのモデルで、簡単に流動的に行き来できるようになります。また、継続的に学習するモデルも登場すると思います。今、GPTを使うと、トレーニングした時の状態に留まってしまいます。そして、使えば使うほど良くなっていくわけではありませんし、そういうものです。それを変えてもらおうと思うんです。だから、私はそのすべてにとても期待しているんです。

もし、それが実現すれば、私たち全員にとって大きな勝利であり、大きな前進であり、真の技術革命となるでしょう。しかし、私たちはこれからも新しいパラダイムに向けて研究を進めていくと思います。私たちは、このようなことが起きていることに嬉しい驚きを感じています。そして、新しい知識の生成に関するすべての疑問（人類を本当に進歩させるにはどうすればいいのか？）を解決するためのシステムが登場すると思います。

リード・ホフマン:
例えば、AIや核融合など、現在ゆるやかに語られていると思われる分野について、少しお聞かせください。

サム・アルトマン:
そうですね。残念なことに、AIは大きなバズワードになってしまいましたが、これは通常、あまり良くない兆候です。この分野が崩壊することを意味しないことを祈ります。しかし、歴史的に見ると、誰もが「私はAIでこれだ」と言うような場合、新しいスタートアップの創造などにとってとても悪い兆しです。そして、それは間違いなく今起きていることなのです。「核融合のRLモデルを作っています」と言う人がいますが、私たちの知る限り、それらはすべて、賢い物理学者が解明したものよりはるかに悪いものです。

この分野では、「これとAIを足したようなもの」と言われることが多いようです。多くのことが当てはまるでしょう。私は、これがその世代の最大の技術プラットフォームになると思っています。

私たちは、フロンティアにいて、スケーリング法則がどのようなものか予測可能に理解し（あるいはすでに研究済みで）、「よし、この新しいものはうまくいきそうだ」と言えるような、そんな方法から予測を立てることが好きです。

そして、それが私たちがOpenAIを運営しようとする方法であり、高い信頼性があるときに目の前の次のことを行い、会社の10％を取って、ただ完全にオフになって探索することで、大きな成果につながったのです。

あ、こんなこと言うと悪いんですけどね。5年後にまだトランスフォーマーを使っているかどうかは疑問です。そうでないことを願います。もっといいものが見つかるといいのですが。しかし、トランスフォーマーは明らかに驚くべきものでした。だから、次のまったく新しいパラダイムをどこに見出すかを常に探すことが重要だと思います。でも、それが予測の方法だと思うんです。何でもかんでもAIに注目してはいけない。何かが機能しているのを確認し、それが予測的に良くなっていくのを確認できるか。そして、もちろん、そのための余地を残しておくことです。偉業を計画することはできませんが、研究のブレークスルーが起こることはあります。

AIとメタバース、金融市場への影響: 未来の技術革命に向けての展望

リード・ホフマン:
というのも、より幅広い議論をする機会を設けたいと思うからです。

例えば金融市場など、非常に重要なシステムにAIを適用する場合、どのようなことが起こると思われますか？というのも、ごく自然なことですが、「この上で高頻度の取引システムを作ろう」とか、いろいろなことが考えられるからです。単なる中立的な技術競争なのでしょうか？どのようにお考えでしょうか？

サム・アルトマン:
AIはあらゆるところに浸透していくと思います。私の次の10年の基本モデルは、知能の限界費用とエネルギーの限界費用が、驚くほど急速にゼロに向かう傾向にあるというものです。そして、この2つのコストは、私たちが望む高価なもの、ステータスグッズなどのコストを除いた、他のすべてのもののコストに大きく影響すると考えています。
なぜなら、社会のコスト構造全体が変化するときに起こる急激なシフトは、過去に何度も起こったことですが、その誘惑から常に過小評価されがちだからです。ですから、あまり変化のないもの、あるいは適用されないものについては、高い信頼性をもって予測することはしません。

しかし、重要なことのひとつは、ゼロに向かってずっとトレンドが続くということではありません。ただ、そこに向かってトレンドがあるのです。だから、誰かが計算機やエネルギーに莫大な費用をかけることを厭わないのです。ただ、その金額は想像を絶するものです。では、誰がそれをするのか、そして、コストが大幅に下がるのではなく、実際に使われる量が大幅に増えるという、奇妙な現象が起きるのはどこなのでしょうね？

リード・ホフマン:
そうですね、2つの曲線の交差点です。

サム・アルトマン:
そうです。エネルギーコストより10倍、100倍、知能コストより1億倍も安くなったのに、今のドルで1,000倍の出費をいとわない。では、どうなるでしょうか？

リード・ホフマン:
メタバースとAIですが、これにはどんなものがあると思いますか？

サム・アルトマン:
どちらも独立してクールなものだと思います。AIがすべてのコンピューティングにどのような影響を与えるか以外は、私にはまったくわかりません。

リード・ホフマン:
そうですね。明らかに、コンピューティング、シミュレーション、環境、エージェント、エンターテインメント、教育、AI家庭教師など、これらはベースラインになっているはずです。しかし、質問ですが、何か思い当たることはありますか？

サム・アルトマン:
逆のケースは、それなりに可能性があると思いますが、メタバースはむしろiPhoneのような、ソフトウェアの新しい入れ物や新しいコンピュータとのインタラクションのようなもので、AIは正当な技術革命のようなものであることが分かってきました。だから、AIがメタバースにフィットするというより、メタバースがこの新しいAIの世界にどうフィットするかということだと思います。でも、確信は持てません。

AIのライフサイエンス研究分野への影響と100年後の私達は5万年前の人と同じことを気にする

リード・ホフマン:
わかりました。（聴衆うの皆さんに向かって）質問はありますか？

聴衆の皆さん：
こんにちは。GPT-3 のような基盤テクノロジーは、特にライフサイエンス研究のペースにどのような影響を与えると思われますか？例えば、医学研究などでは、反復サイクルを早めることができます。また、ライフサイエンス研究のスピードのリミッターは何だとお考えですか。また、自然の法則があるため、それを超えることはできないとお考えですか。

サム・アルトマン:
現在利用可能なモデルは、この分野に大きなインパクトを与えるには十分なものではないと思っています。少なくとも、ほとんどのライフサイエンス研究者がそう言っています。彼らは皆、それを見て、場合によっては少しは参考になるな、という感じです。ゲノム科学の分野では、有望な研究がいくつかありましたが、ベンチトップでの研究はあまり影響を及ぼしませんでした。しかし、この状況は変わっていくでしょう。そして、この分野は、1,000億ドルから1兆ドルの企業が新たに誕生する分野のひとつであり、そのような分野はまれだと思います。

もし、今の会社の何百倍も優れた未来の製薬会社を作ることができたら、それは本当に違うものになるでしょうね。しかし、バイオはバイオで、治験に時間がかかるという限界があります。

そこで興味深いのは、それを回避できるのはどこか、ということです。私が見てきた中で、最も興味深い人工バイオ企業は、サイクルタイムを超高速化する方法を発見した企業です。AIは良いアイデアをたくさん出してくれますが、それをテストする必要があります。

私は、スタートアップ企業が求めるものは低コストと高速サイクルタイムであると信じています。それがあれば、スタートアップとして既存の大企業に対抗することができます。ですから、今、この新会社で最初に狙うべきものとして心臓病を選ぶことはありません。しかし、バイオを使って何かを作るというのは、とてもいいことだと思います。もうひとつは、シミュレーターがまだあまりにひどいことです。もし私がバイオとAIを融合させたスタートアップ企業であれば、何とかしてそれに取り組もうとするでしょうね。

リード・ホフマン:
AI技術が自分で改良を加えるようなもので、シミュレーターを大幅に改善するのに役立つと思うのですが、いつ頃でしょうか？

サム・アルトマン:
今、そのことに取り組んでいる人がいます。どうなっているかはよくわかりませんが、非常に頭のいい人たちが、それについて非常に楽観的です。

リード・ホフマン:
その他の質問です。質問を続けることができます。

聴衆の皆さん：
いいね、ありがとうございます。気になったのですが、生活のどのような側面がAIによって変わらないと思いますか？

サム・アルトマン:
生体における深層のものすべてです。私たちは、他の人々との交流を大切にするようになると思います。脳の報酬系も同じように働くでしょう。新しいものを作ったり、ステータスを競ったり、家族を作ったりする意欲も変わらないでしょう。だから、100年前よりも5万年前の人が気にしていたことのほうが、100年後の人が気にしていることになる可能性が高いと思うんです。

家族づくりと子供を持つことについて

リード・ホフマン:
次の質問に入る前に、増幅器として、これまでで最高の理想主義的なSFの世界は何だと思われますか？

サム・アルトマン:
いい質問ですね。正直なところ、『スター・トレック』はかなりいい。私は、宇宙をできるだけ探求し、理解することに焦点を当てた作品すべてが好きです。それはユートピア的なものではありません。まあ、多分、最後の質問はすごい短編小説だと思うんだけど。それが頭に浮かんだんだ。

リード・ホフマン:
ええ、そうです。私はあなたが『カルチャー』のイアン・バンクスと言うと思っていたのですが。

サム・アルトマン:
あれは素晴らしいよ。SFの世界で、この全部が素晴らしい、と言えるものはひとつもない。でも、SFの集団的な楽観的な部分、それは小さな部分ですが、私はわくわくしています。実は、数日休んでSF小説を書いたのですが、AGIの楽観的なケースについて書いただけなのに、とても楽しくて、もっとたくさん読みたくなってしまいました。だから、今読むべきおすすめの本を探しているんだ。もし何かあれば、あまり知られていないようなものをね。

リード・ホフマン:
何かあれば、おすすめの本を紹介しますよ。

聴衆の皆さん：
同じような意味で、私の好きなSFの本のひとつに、アーサー・クラークが60年代に書いた『Childhood's End』という本があります。要約すると、宇宙人が私たちを救おうと地球にやってきて、私たちの子供だけを連れて行き、他のものはすべて置いていくというものです。というものです。

リード・ホフマン:
それよりも少し楽観的なんです。でも、そうなんです。オーバーマインドへのアセンションは、よりユートピア的であることを意味していますが、そうです。あなたはそう読まないかもしれませんが、そうなのです。

聴衆の皆さん：
さて、現在、多くの人が家族づくりについて考えていますね。人によって、そのアプローチの仕方はさまざまです。しかし、あなたの立場から、最も有望な解決策は何だと思われますか？技術的な解決策ではないかもしれませんが、あなたがどう考えるか興味があります。みんなが10人の子供を持つ以外に、私たちはどうすればいいのでしょう？

サム・アルトマン:
みんなが10人の子供を持つというのは？

聴衆の皆さん：
どのように人口を増やすのでしょうか？AGIやハイテクと共存する家族づくりをどのように考えていますか？

サム・アルトマン:
そうですね。
これは、OpenAIでよく出てくる質問です。子供を持つことについてどう考えるべきか？これにはコンセンサスとなる答えがないと思います。「私はずっと子供を持つつもりでいましたが、AGIのせいで持つつもりはありません」と言う人がいます。「15年後、20年後に私がすることはそれしかないのだから、もちろん大家族を持つつもりだ」と言う人たちもいます。そのために時間を使うんだ。素晴らしい子供たちを育ててやるんだ。そして、それが私に充実感をもたらすと思う。

いつものことですが、個人の判断だと思います。私は、「AGIのせいで子供を作らない」という人がいると、とても落ち込むんです。EAコミュニティは、「みんな死んでしまうから、そんなことはしない」と言うんです。テクノ・オプティミストは、「私はAGIと合体して宇宙を探検したいんだ。それはとても素晴らしいことで、完全な自由を得たいんだ」と言う。

でも、私はそのどれもが極めて憂鬱なものだと感じています。子供をたくさん産むことは素晴らしいことだと思います。若い頃よりも、もっとそうしたいと思うようになりました。そして、それを楽しみにしているのです。

プロンプトエンジニアリングの将来と才能の進化についての

聴衆の皆さん：
5年後、多くのユーザーが基礎モデルに接する方法はどうなっていると思いますか？基本的に、微調整された基盤モデルを産業に適応させた、垂直化されたAIスタートアップが数多く存在するようになると思いますか？それとも、プロンプトエンジニアリングは、多くの組織が社内の機能として持つものになると思いますか？

サム・アルトマン:
5年後もプロンプトエンジニアリングをやっているとは思いません。そして、これはあらゆる場所で統合されるでしょう。テキストでも音声でも、文脈に応じて、言語によるインターフェイスを行い、コンピュータに何でもさせることができるようになります。そして、それは画像の生成にも応用され、プロンプトエンジニアリングはまだ少し残っているかもしれませんが、私のために研究をしてくれたり、複雑なことをやってくれたり、セラピストになって私の人生をより良くするための方法を教えてくれたり、私のためにコンピューターを使ってこんなことをしてくれたりと、さまざまなことをやってくれるようになるのでしょうね。しかし、基本的なインターフェースは自然言語になると思います。

リード・ホフマン:
次の質問に入る前に、実はそのことを少し掘り下げたい。例えば、「DALL-E」を見てみると、優れた視覚的思考を持つ人は、より多くのことを考える方法を知っているので、「DALL-E」から多くを得ることができます。彼らは、テストを通してループを反復する方法を知っているのです。このようなことが、一般的な真理になると思いませんか？あなたがやっていることは自然なことですが、さらに一歩進んだ人間の才能が進化していくことになるのです。

サム・アルトマン:
100%。私は、プロンプトをハックする方法を見つけるために、最後に1つの魔法の言葉を追加して、他のすべてを変えてしまうようなことがないように願っています。重要なのは、アイデアの質と、あなたが何を望んでいるのかを理解することです。つまり、アーティストがイメージ生成でベストを尽くすことはあっても、最後に魔法の言葉を付け加えることを考え出したからではない。彼らは、私にはないクリエイティブな目で、それを表現することができたからです。

リード・ホフマン:
そして、彼らが持っているのはビジョンであり、それをどのように視覚的に考え、反復していくかということです。そして明らかに、今はその言葉やプロンプトであっても、より良いものへと反復していくのです。そうですね。少なくとも私たちはここで質問をしています。

「AGIとは何か？」と「AIの発展に伴う社会問題」についての議論から、対処すべき課題を探る

聴衆の皆さん
どうもありがとうございました。AGIという言葉はよく使われる言葉だと思います。私自身の議論でも、AGIの定義が人によって異なることが混乱の原因になっていることがあります。AGIは魔法の箱のような存在で、誰もが自分の考えをそこに投影してしまうのです。AGIをどのように定義するのか、また、AGIが実現したときにどのようなことがわかるのか、教えてください。

サム・アルトマン:
そうですね、もっと早く定義しておけばよかったです。素晴らしいポイントです。しかし、私にとっては、AGIとは基本的に、同僚として雇うことができる平均的な人間に相当するものです。AGIは、基本的に、あなたが同僚として雇うことのできる平均的な人間と同等であり、あなたが遠隔地の同僚と一緒にコンピューターの前で仕事をすることに満足できるようなことは何でもできるようになるのです。

その中には、医者になるための勉強や、有能なコーダーになるための勉強も含まれます。中央の人間が得意とすることは、たくさんあります。AGIのスキルの1つは、特定のマイルストーンではなく、物事を理解するための学習というメタスキルであり、必要なものであれば何でも得意になるように判断できることだと思います。それがAGIだと思います。そして、超知能とは、全人類を合わせたよりも賢くなることです。

リード・ホフマン:
ご質問はありますか？はい。ありがとうございます。

聴衆の皆さん：
ありがとうございます。今後20年、30年の間に、AIが成長し続けることで発生する主な社会的問題は何だと思いますか？また、それらの問題を軽減するために、私たちが今日できることは何でしょうか？

サム・アルトマン:
明らかに、経済的な影響は大きいです。そして、ある人は驚くほどうまくいき、ある人はそうでないというような格差が生まれるとしたら、今のところ社会はそれを容認できないだろうと思います。20年後、30年後までにすべての経済活動が崩壊していなくても、そうなることは明らかだと思います。

新しい社会契約とは何でしょうか？私が思うに、富の公平な分配をどう考えるか、世界の共通財産となるAGIシステムへのアクセス、そして、何ができて何ができないかを集団で決めるガバナンス、そういったものを考えなければならないでしょう。これらの質問に対する答えを見つけることは、非常に大きな意味を持つと思います。
私は、人々が自分の時間をどのように過ごすか、そして非常に充実した時間を過ごすことができるかを見つけることができると楽観的に考えています。人々は、少しばかり愚かしい方法でそれを心配しているのだと思います。でも、私たちはいつもこの問題を解決しています。しかし、富やアクセス、統治といった概念はすべて変化すると思いますし、それらにどう対処するかが大きなポイントになると思います。

リード・ホフマン:
実は、1つだけ。OpenAIやあなた方がやっていることで私が気に入っていることのひとつは、彼らはこうした疑問について自分たちでよく考えていて、研究を始めていることです。つまり、あなたはこのようなことについて、いくつかの研究を始めたということですね。

サム・アルトマン:
そうですね。私たちは世界最大のUBI実験を行っています。5年間のプロジェクトで、あと1年と4分の1が残っています。それが唯一の解決策だとは思いませんが、やっていることは素晴らしいことだと思います。そして、このようなことをあと10個は試してみるべきだと思います。また、最も影響を受けると思われる多くのグループから意見を聞き、サイクルの早い段階でそれを実現するためのさまざまな方法を試みています。最近では、早期に影響を受けるであろう人々の再教育に、この技術をどのように活用できるかを検討しています。そのようなことをもっとたくさんやっていこうと思っています。

リード・ホフマン:
そうですね。この組織は、実際、これらの質問は素晴らしいもので、それに取り組み、実際に興味深い研究をたくさん行っています。では、次の質問です。

「AIとクリエイティビティ」と「大規模言語モデルスタートアップの差別化方法」を探る

聴衆の皆さん：
今日、いくつかのパネルでクリエイティビティが取り上げられましたが、その使われ方として、人間のクリエイターのためのツールがあり、人間のクリエイティビティを拡張して行くように思えます。そこで、クリエイターがより生産的になれるようにするためのこうしたツールと、何でも自分でやってしまう人工的なクリエイティビティとの境界線はどこにあるとお考えでしょうか？

サム・アルトマン:
そうですね。そして、クリエイターのためのツールとして、それが短期的にはAIの偉大な応用になるということを、今、私たちは目の当たりにしているのではないでしょうか。人々はそれを愛しています。本当に便利なんです。そして、少なくとも私たちが今までに見てきたものでは、AIは置き換えられるものではないと思います。ほとんどの場合、補完的なものです。場合によっては代替になりますが、これらの分野の人々がやりたいと思うような仕事の大半は、補完的なものなのです。そして、この傾向はずっと続くと思います。最終的には、そうですね、たぶん100年先を見据えたときに、クリエイティブな仕事を一通りこなせるようになるんでしょうね。

面白いことに、10年前にAIがどのような影響を与えるかを尋ねたら、ほとんどの人が自信を持って、まず、工場で働くブルーカラーの仕事、トラックの運転手、その他が対象になる、と聞いたでしょう。次に、低技能のホワイトカラーの仕事に影響が出る。次に、プログラマーなど、非常に高いスキル、高いIQを持つホワイトカラーの仕事です。そして、最後には、もしかしたら一生ないかもしれませんが、クリエイティブな仕事も奪われるでしょう。そして、それはまったく逆の方向に進んでいます。

予測がいかに難しいかということについては、一般的に興味深い気づきがありますが、より具体的には、どんなスキルが難しくて簡単なのか、脳の大部分を使うものとそうでないもの、身体をコントロールしたり作ったりするのがいかに難しいかなど、私たちはいつもあまり意識していない、ということでしょう。

リード・ホフマン:
もう1つ質問があります。

聴衆の皆さん：
どうも、今日はありがとうございました。私が聞いた話では、間違っているかもしれませんが、大規模な言語モデルはデータと演算量に依存するということです。どのスタートアップ企業も、インターネット上のデータなので、同じ量のデータにアクセスできます。また、企業によって演算量は異なるかもしれませんが、大手企業であれば、同じ量の演算量を得ることができるのではないでしょうか。では、大規模な言語モデルのスタートアップは、どのように他の企業と差別化できるのでしょうか？

サム・アルトマン:
私は、それが中間レイヤーになると考えています。ある意味で、スタートアップ企業は自分たちのモデルを訓練することになると思います。膨大な量の計算機とデータで鍛え上げられた基礎モデルを利用し、その上でバーティカルモデルを作成するのです。つまり、ある意味では、ゼロからではなく、自分たちでモデルをトレーニングしているのです。しかし、このユースケースのために、本当に重要な1%のトレーニングを行っているのです。
そのようなスタートアップは、大きな成功を収め、非常にユニークなスタートアップとなることでしょう。しかし、それは、そのスタートアップが行うことができるデータのフライホイールについてであり、その上や下にあるすべての部分についてです。これには、しばらくの間、迅速なエンジニアリングが含まれるかもしれませんが、基本的なベースモデルです。しかし、それはあまりにも複雑で高価なものであり、世界では十分な量のチップを作ることができないのです。

リード・ホフマン:
サムは仕事の都合で行かないとですね。あなたが落ち込んだときや、（子供たちの）将来のことでも何でも、いつでも私が助けますよ。

サム・アルトマン:
それはありがたいですね。
私たちがAIの崖っぷちに立たされていることを、誰も知らないんだと思います。そして、人々は「本当に素晴らしいものになるか、本当にひどいものになるかのどちらかだ」と思っています。最悪の事態を想定して計画する必要があります。でも、恐怖と絶望から常に行動するよりも、感情的に素晴らしい未来にたどり着きそうな気がして、そこに到達するためにできる限り努力し、そのために努力するほうがいいんです。

リード・ホフマン:
ええ、恐怖とパラノイアの場所から行動していたら、今の私たちはいないでしょうから。では、夕食を一緒に過ごしてくれたサムにお礼を言いましょう。

サム・アルトマン:
ありがとうございます。

次回は「OpenAI Co-founder Greg Brockman on ChatGPT, DALL·E and the Impact of Generative AI | SXSW 2023」

これにしよう。