【DeepL翻訳】OpenAIのサム・アルトマンが語るAIの新たなフロンティア(OpenAI's Sam Altman on the New Frontiers of AI)
人工知能の分野が進むにつれて、その応用は話題性のあるプロジェクトから、さまざまな業界に影響を与える完全なツールへと変化しています。
ロボットに支配されるというSF的な恐怖はまだ誇張されていますが、AIツールが日常的に人間のアイデアやワークフローを大幅に補強する可能性は、これまで以上に具体的になっています。これは、マイクロソフトとOpenAIの共同開発によるAIプログラミングツール「Copilot」や、OpenAIの言語生成ツール「GPT-3」、画像作成プラットフォーム「DALL-E」などの製品に顕著に表れています。
今、この分野は次のステージに進もうとしていると、OpenAI CEOのサム・アルトマンは言う。大規模な言語モデルや画像と言語を行き来するマルチモーダルモデルの飛躍的な進歩から、科学者の能力を大幅に拡張するアプリケーションまで、人工知能はあらゆる産業で多くの進歩をもたらす基礎的なプラットフォームであるとAltmanは考えています。
「人々が構築できるアプリケーションのロックを解除する方法として、それだけを考えても、私たち全員にとって大きな勝利であり、まさに大きな前進、真の技術革命になるでしょう」と、Altmanは言います。「これらの強力なモデルは、携帯電話以来の、真の新しい技術プラットフォームになると思います。そして、その直後にはいつも、新しい企業が爆発的に増えているのです。
Altmanは、私と同じグレイロックのジェネラルパートナーであるSaam Motamediが主催する1日がかりのサミット「Intelligent Future」において、AIの現状と次に来るものについての広範囲なディスカッションに参加してくれました。このサミットでは、今日の主要な人工知能組織から専門家や起業家が参加しました。このインタビューはこちらで聞くことができますし、ポッドキャストを入手したところでも聞くことができます。また、このインタビューのビデオは、こちらのYouTubeチャンネルで見ることができます。
EPISODE TRANSCRIPT
Reid Hoffman:
では、もう少し現実的な話から始めて、枝分かれしていくことにしましょう。ここにいる多くの人が興味を持っていることの一つは、非常に大きなモデルが作り出すAPIに基づいて、実際のビジネスチャンスは何なのか？将来的にはどのような方法があるのでしょうか。また、APIは複数のプレイヤーが利用できるようになりますが、その上でどのように特徴的なビジネスを創造するのでしょうか？
Sam Altman:
そうですね。だから、今までは、すごいコピーライティングのビジネスができるとか、教育サービスができるとか、そういう領域だったと思うんです。でも、Googleを1兆円規模で買収するような人たちはまだ見ていないと思うんです。そして、それはこれから起こることだと思います。もしかしたら成功するかもしれません。もしかしたら、Googleが自らそれを行うかもしれません。しかし、今後数年のうちに登場する言語モデルの品質が高まれば、検索製品で初めてGoogleに本気で挑戦することになると思います。そして、人々は "根本的なことがどう変わったのか？"を本当に考え始めていると思います。そしてそれは、本当にパワフルなものになるはずです。
今回、人間レベルのチャットボットのインターフェイスが実際に機能することで、私たちが馬鹿にしていたこれらのトレンドの多くが、早すぎたのだと思います。チャットボットの件はよかったです。ただ、早すぎたのです。今ならうまくいくでしょう。チャットボットを通じて素晴らしいアドバイスが得られる新しい医療サービスや、新しい教育サービスなどは、非常に大きな企業になると思います。
そう遠くないうちにマルチモーダルモデルが登場し、新たな可能性が開けると思います。コンピュータを使って何かをしてくれるエージェントや、プログラム、言語インターフェースのアイデアなど、素晴らしい研究をしている人たちがいます。それを繰り返し、改良していけば、コンピュータが代わりにやってくれるのです。DALL-E』や『CoPilot』では、ごく初期の段階からその一端を見ることができます。
さらに一般的には、こうした非常にパワフルなモデルが、モバイル以来の真の新しいテクノロジー・プラットフォームになると思います。そして、その直後には必ず新しい企業が誕生しますから、それは素晴らしいことです。
RH:
また、APIサービスとして提供した大規模な言語モデルから、重要なことは何だと思われますか？このようなAIビジネスを考えている人たちが、永続的な差別化されたビジネスを作るために考えるべきことは何でしょうか？
SA:
その上に他の人々が構築する、ほんの一握りの基本的な大規模モデルが存在することになると思います。でも今は、ある企業が大規模な言語モデルを作っていて（APIでその上に構築できる）、その中間層が本当に重要になると思います。この先も続くとは思えません。しかし、私が思うに、既存の非常に大規模な未来モデルを用いて、それを調整する、つまり、単なる微調整ではなく、あらゆることを行う、まったく新しいスタートアップが誕生するでしょう。
医療やコンピューター、友人などを使ってモデルを作成するために、多くのアクセスが提供されるようになると思います。そして、そのような企業は、その特別なバージョンを持っているため、多くの永続的な価値を生み出すことになるでしょう。ベースモデルを作成する必要はありませんが、自分たちだけで使えるもの、あるいは他の人と共有できるものを作成し、時間とともに向上する独自のデータフライホイールを持つことができるのです。このように、中間層には多くの価値が生まれると思います。
RH:
また、最も驚くようなことは何だと思われますか？例えば、数年前の驚きと少し似ています。今朝のオープニングでKevin Scottに少し話したのですが、インターネット上でトレーニングをして、コードを書くというものです。そこまで到達しているとは思わなかったとしたら、どんな驚きがあると思いますか？
SA:
今、人々が犯している考え方の最大のシステム上の間違いは、「確かに私は懐疑的だったかもしれないが、この言語モデルは本当にうまくいくし、確かに画像や動画もうまくいく。でも、人類のために新しい知識を生み出すわけではありません。ただ、他の人がやってきたことをやるだけです。それはそれで素晴らしいことです。知能の限界費用は非常に低く抑えられます。ガンを治すわけでもない。人類の科学的知識の総和を増やすわけでもないのです。これが、現在の専門家を最も驚かせる間違いであることが判明すると思います。
RH:
そうですね。では、次に科学に話を移しましょう。APIをベースにしたものであれ、科学者によるAPIの利用であれ、科学が加速される場所にはどのようなものがあり、どのように加速されるのでしょうか？
SA:
現在、2つのことが起きていて、さらに大きな3つ目が後で起きると思います。1つは、アルファフォールドのような科学専用の製品です。これらは膨大な価値を付加しており、今後ますます増えていくことでしょう。もし他に何かする時間があれば、今すぐにでもバイオの会社を追いかけたいくらいです。そこでは、素晴らしいことができると思います。
とにかく、もうひとつ別のことが起こっています。それは、私たち全員の生産性を高めてくれるツールで、新しい研究の方向性を考えるのを助けてくれるし、私たちのコードの束を書き込んでくれるので、生産性は2倍になります。一人のエンジニアや科学者の純生産量に影響を与えることで、AIが科学に貢献する方法は、明白なモデルとは異なる驚くべきものになると私は考えています。しかし、これらのツールに何ができるかを今見ただけでも、CoPilotはその一例です。それよりももっとクールなものがあります。これは、技術開発や科学的発展の方法を大きく変えるでしょう。この2つは、現在、非常に重要で、進歩の加速につながると考えています。
"私は、長期的な人類の進歩と経済成長の真の推進力は、科学の進歩を可能にする社会構造、そして科学の進歩そのものであると強く信じています。"
しかし、その後、人々が探求し始めたと思う大きなことは - この言葉を使うのをためらうのは、この言葉の使われ方には、大丈夫なものと、もっと怖いものがあると思うからです - AIサイエンティストになり始めて自己改善できるAIです。AI開発者としての自分たちの仕事を、ごくごく最初に自動化できるのか。私たちが解き方を知らない、本当に難しい配列の問題を解決する手助けができるのでしょうか？それが、正直なところ、どうなっていくのかだと思うのです。
自己改善の怖いバージョン（SF小説に出てくるバージョン）は、自分のコードを編集して、最適化アルゴリズムを変えたりすることです。それは、もし私たちが新しい科学を発見しようとするなら、私たちは説明を考え出すでしょう。そして、それを検証します。そして考えます。
人間にとって特別なプロセスは何であれ、AIにそれを教えることで、全体としてどうなるのか、とても楽しみです。私は、長期的な人類の進歩と経済成長の唯一の真の推進力は、科学の進歩を可能にする社会構造、そして科学の進歩そのものであると信じています。そして、私たちはこれからさらに多くのことを成し遂げようとしているのです。
RH:
特に科学は技術に展開されますからね。おそらくほとんどの人がアライメント問題とは何かを理解していると思いますが、アライメント問題については4つの文章を書く価値があるでしょう。
SA:
そうですね。つまり、アラインメントの問題は、この信じられないほど強力なシステムを作って、それが私たちの望むことをしなかったり、私たちと対立するような目標を持ったりすると、本当に悪いことになる、ということです。[そこで何が起こるか、あるいは、私たちのことなどどうでもよくなってしまうような目標については、多くのSF映画があります。
つまり、人類にとって最善の利益をもたらすAGIをどのように構築するかという問題です。人類の未来を決めるのは人類であることをどうやって確認するのか？また、意図しない誤用や、悪人がAGIを使って大きな損害を与えるような意図的な誤用、さらには、AGIが我々を脅威とみなす生物になってしまったらどうしよう、という内なるアライメントの問題をどう回避するかということです。
自己改善システムが私たちを助けてくれるのは、必ずしも自己改善の本質によるものではありませんが、私たちは小規模ながらアライメントの問題を解決する方法について、いくつかのアイデアを持っています。そして、OpenAIの最大のモデルを、現時点で思っていたよりもうまく揃えることができました。ですから、それは良いことです。次に何をすべきかというアイデアはありますが、正直なところ、誰かの目を見て、この問題をどうやって解決するのか100年先まで見通せると言うことはできません。しかし、AIが十分に発達して、"アライメントの研究を手伝ってくれないか？"とお願いできるようになれば、それは大きな意味を持つようになると思います。それが、新しいツールボックスの1つになると思います。
RH:
そうですね。例えば、あなたと私がした会話の一つに、エージェントに「人種差別をするな」と言うことはできないか、というものがあります。すべてのモデルやその他に存在する奇妙な相関データが人種差別的な結果をもたらすかもしれない、さまざまなことを解明しようとするのとは対照的に、実際には自浄作用が働くかもしれないのです。
SA:
その通りです。モデルが十分に賢くなり、人種差別がどのようなものか、それがどれほど複雑なものかを本当に理解すれば、「人種差別をするな」と言うことができます。
RH:
ええ、そのとおりです。今後数年間の進化という点で、人々が注目すべきムーンショットは何だと思われますか？
SA:
AIの進化という点では、どうでしょうか？
RH:
そうですね。
SA:
まずは、より確実性の高いものから始めたいと思います。言語モデルは、人々が思っているよりもずっとずっと先に進むと思います。多くの人が「計算機が足りない」「データが足りない」と言いますが、それはすべて真実です。それはすべて真実です。しかし、アルゴリズムの進歩はこれからも続くので、私たちは非常にエキサイティングな時間を過ごすことができると思います。
もうひとつは、真のマルチモーダルモデルを実現することです。テキストや画像だけでなく、あらゆるモダリティが1つのモデルで簡単に流動的に行き来できるようになるのです。また、継続的に学習するモデルも登場すると思います。今、GPTを使うと、学習された時間から抜け出せなくなります。使えば使うほど良くなるわけではありません。それを変えることができると思います。だから、その点についてはとても期待しています。
もしそれが実現すれば、私たち全員にとって大きな勝利であり、大きな前進であり、真の技術革命になるでしょう。しかし、私たちはこれからも新しいパラダイムに向けて研究を進めていくでしょう。私たちは、このようなことが起こりそうなことに、嬉しい驚きを感じています。そして、新しい知識の生成に関するこれらすべての疑問（人類を本当に進歩させるにはどうしたらよいのか）には、それを助けてくれるシステムがあると思います。
RH:
例えば、AIや核融合など、現在ゆるやかに語られている分野について、少しお話しください。
SA:
そうなんです。残念なことに、AIが巨大なバズワードになったことがあります。この分野が崩壊するという意味でないことを祈ります。でも歴史的に見ると、みんなが "私はAIでこれだ "と言ってしまうと、新しいスタートアップの創造などにとって非常に悪い兆候です。そして、それは間違いなく今起きていることなのです。私たちは、「私は核融合などのRLモデルをやっています」と言う人たちがいるのか、という話をしました。私たちの知る限り、それらはすべて、賢い物理学者が解明したものよりずっと悪いものです。
これはもう、何でもかんでも "これプラスAI "と言ってしまうような分野だと思うんです。いろいろなことが真実になっていくでしょう。確かに、この世代で最大の技術プラットフォームになると思います。
私たちは、フロンティアにいて、スケーリング法則がどのようなものかを予測的に理解し（あるいはすでに研究をしていて）、"よし、この新しいものはうまくいくだろう "と言えるところで予測をし、その方法から予測をすることが好きなのです。
そして、それが私たちがOpenAIを運営しようとする方法です。それは、高い信頼性があるときに目の前にある次のことを行い、会社の10％を取って、ただ完全にオフになって探求することです。それが大きな勝利につながっています。
あ、こんなこと言うと悪いんですけどね。5年後、私たちはまだトランスフォーマーを使っているのだろうか。そうでないことを祈ります。もっといいものが見つかるといいのですが。しかし、トランスフォーマーは明らかに驚くべきものでした。ですから、常に次のまったく新しいパラダイムがどこにあるのかを探すことが重要だと思います。でも、それが予測の方法だと思うんです。何でもかんでもAIに注目してはいけません。何かがうまくいっているのがわかるか、そしてそれが予測通りによくなっていくのがわかるか。そして、もちろん、そのための余地を残しておくこと--偉大さを計画することはできませんが--研究のブレークスルーが起こることもあります。
RH:
ですから、私はもう2つ質問をして、それからオープンにしようと思っています。なぜなら、私は幅広い議論をする機会を人々に与えたいからです。私は広い絵を描こうとしているので、この一部としてクレイジー・アスの質問を受けることができますが。
例えば、金融市場など、非常に重要なシステムへのAIの適用に関して、どのようなことが起こるとお考えですか？というのも、ごく自然なことですが、「この上で高頻度取引システムを作ろう」とか、いろいろなことを言い出すでしょう。中立的な軍拡競争に過ぎないのでしょうか。それはほとんど「Life 3.0、Omegaの」ような観点でどうお考えですか？
SA:
AIはあらゆるところに浸透していくと思います。今後10年間の私の基本モデルは、知能の限界費用とエネルギーの限界費用が、驚くほどゼロに向かって急速に推移するというものです。この2つが、高価であってほしいもの、ステータスグッズなどを除く、他のすべてのもののコストに大きく影響すると思います。
なぜなら、社会のコスト構造全体が変化したときに起こる地震的なシフトは、過去に何度も起こっており、常にそれを過小評価する誘惑に駆られるからです。ですから、あまり変化しないものや適用されないものについては、信頼度の高い予測はしないことにしています。
しかし、重要なことのひとつは、物事がゼロに向かってずっと推移するわけではないことです。ただ、そこに向かってトレンドしていくのです。そのため、計算機やエネルギーに莫大な費用をかける人が出てきます。ただ、それについては、想像を絶する金額を手に入れることになるでしょう。誰がそんなことをするのか、どこが一番変になるのか、それはコストが大幅に下がるからではなく、実際に使われる量が大幅に増えるからなのです。
RH:
そう、2つのカーブの交差点です。
SA:
そうなんです。アレはエネルギーコストの10倍、100倍になり、知能コストの1億倍になり、それでも今のドルでは1000倍の出費を覚悟したんだ。するとどうなるか？
RH:
そして、未来質問のバズワードビンゴ部分の最後、メタバースとAIですが、これには何が来ると思われますか？
SA:
どちらも独立してクールなものだと思います。AIがすべてのコンピューティングにどのような影響を与えるのか、それ以外にはまったくわかりません。
RH:
そうですね。コンピューティング、シミュレーション、環境、エージェント、エンターテインメント、教育、AI家庭教師など、これらはベースラインとなるでしょう。でも質問ですが、何か思いついたことはありますか？
SA:
メタバースはiPhoneのような、ソフトウェアの新しい入れ物であり、コンピュータとの新しいインタラクションのようなもので、AIは正当な技術革命のようなものであることが判明します。AIがメタバースに適合するというより、メタバースがこの新しいAIの世界にどう適合していくかということだと思います。でも、自信は低い。
RH:
でも、未定です。わかったわ質問は？
Audience Member:
こんにちは。GPT-3のような基盤技術は、特にライフサイエンス研究のペースにどのような影響を与えるとお考えですか？GPT-3のような基盤技術は、ライフサイエンス研究のペースにどのような影響を与えるとお考えですか？また、ライフサイエンス研究の速度が制限され、自然の法則によって乗り越えられないものは何だと思われますか？
SA:
現在利用可能なモデルは、この分野に大きなインパクトを与えるには十分でないと思います。少なくとも、ほとんどのライフサイエンス研究者がそう言っています。彼らは皆、それを見て、場合によっては少しは役に立つという感じです。ゲノミクスの分野では、有望な研究がいくつかありましたが、ベンチトップでの研究はそれほどインパクトがありませんでした。この状況は変わると思います。このような分野では、1,000億ドルから1兆ドルの企業が新たに生まれると思いますが、そのような企業はめったにありません。
もし、今の会社の何百倍も優れた未来の製薬会社を作ることができれば、それは本当に違うものになるでしょう。おっしゃるとおり、バイオの限界はまだありますし、ヒトの試験も時間がかかります。
そこで、それを回避できるのはどこか、というのが面白い切り口だと思います。私が見た中で最も興味深い合成バイオ企業は、サイクルタイムを超高速化する方法を見つけた企業です。AIは良いアイデアをたくさん出してくれますが、それをテストしなければならないので、今はまだその段階です。
私は、スタートアップ企業が求めるものは低コストと速いサイクルタイムだと信じています。それがあれば、スタートアップとして大手企業に対抗することができます。ですから、今、この新会社で最初に狙うべきは心臓病ではありません。でも、バイオを使って何かを作るというのは、とてもいいことだと思います。もうひとつは、シミュレーターがまだあまりにひどいということです。もし私がバイオとAIを融合させたスタートアップなら、何とかしてそれに取り組みたいと思うでしょう。
RH:
今、それに取り組んでいる人たちがいます。どうなっているかはよく分かりませんが、非常に賢い人たちはそのことにとても楽観的です。
"生物学的な深いものは、すべてAIによって変わるとは思いません。それでも私たちは、他の人々との相互作用を本当に大切にすると思います。5万年前の人が気にしていたことは、100年前の人が気にしていることよりも、100年後の人が気にしていることの方が多いと思います。"
RH:
他の質問も。そして私は質問を続けることができます。ただ、あなた方にチャンスがあったことを確認したいのです。ああ、これね。はい素晴らしいマイクが来たぞ
Audience Member:
すごいですね、ありがとうございます。気になったのですが、生活のどのような部分がAIによって変わらないと思われますか？
SA:
生物学的に深いものばかりです。私たちはこれからも、他の人々との交流を大切にすることでしょう。楽しいことは変わりませんし、脳の報酬系も同じように働くでしょう。新しいものを作ろうとか、地位を争おうとか、家族を作ろうとか、そういう気持ちも同じようにあるはずです。ですから、5万年前の人々が気にかけていたことは、100年前の人々が気にかけていることよりも、100年後の人々が気にかけていることの方が多いのではないかと思います。
RH:
次の質問に入る前に、その増幅器として、これまでで最高のユートピアSFの世界は何だと思いますか？
SA:
いい質問ですね。スタートレックは正直言って、かなりいい。宇宙をできるだけ探索し、理解することに焦点を向けるようなものは、どれも好きです。それはユートピア的なものではありません。そうですね、最後の質問はすごい短編小説だと思うかもしれません。それが頭に浮かびました。
RH:
そうだ、そうだ。Iain Banks on the Cultureと言うと思ったのに。
SA:
それは素晴らしいことです。SFの世界には、これだけは素晴らしいというものはありません。でも、SFの集団的な楽観的なコーナー、それも小さなコーナーですが、私はわくわくしています。実は、数日休みを取ってSF小説を書いたのですが、AGIの楽観的なケースについて書いただけなのに、とても楽しくて、もっとたくさん読みたくなってしまったんです。というわけで、今読むべきおすすめの本、あまり知られていないものがあれば教えて欲しいです。
RH:
お勧めの親指をご紹介します。
Audience Member:
同じように、私が好きなSFの本に、60年代に書かれたアーサー・クラークの「Childhood's End」という本があります。要約すると、宇宙人が私たちを救うために地球にやってきて、私たちの子供だけ連れて行き、他のものはすべて捨ててしまうというものです。それで...
RH:
それよりも若干楽観的なんです。でも、そうなんです。オーバーマインドへのアセンションは よりユートピア的な意味合いが強いですが、そうなんです。あなたはそう読まないかもしれませんが、そうなんです。
Audience Member:
さて、そんなわけで今の宇宙、今の状況ですが、多くの人が家族づくりや妊活について考えているようです。人によってアプローチの仕方はさまざまです。しかし、あなたの立場から、最も有望な解決策と思われるものは何ですか？技術的な解決策ではないかもしれませんが、あなたがどう考えるか興味があります。誰もが10人の子供を持つこと以外に、私たちはどのように...
SA:
みんなが10人の子供を持つことの？
Audience Member:
ああ、どうやって人口を増やすんだ？AGIやハイテクと共存する家族のあり方をどう考えるか？
SA:
これはOpenAIでもよく出る質問です。子供を持つことについてどう考えるべきか？これには、コンセンサスを得た答えはないと思います。私はずっと子供を持つつもりだったが、AGIのおかげで持てなくなった」と言う人もいますし、「当たり前の理由だ。15年後、20年後に私ができることはそれしかないのだから、もちろん大家族を持つつもりだ」と言う人もいます。そのために時間を使うんだ。素晴らしい子供たちを育てるんだ。そして、それこそが私の充実感につながると思うのです。"
私は、いつものように、それは個人の決断であると思います。私は、「AGIのせいで子供を作らない」という人がいると、とても落ち込みます。EAコミュニティは、「みんな死んでしまうから、そんなことはしない」と言うし、テクノオピニオン派は「みんな死んでしまうから、そんなことはしない」と言う。テクノオプティミストは「AGIに合体して宇宙を探検したい」と言い出す。それはとても素晴らしいことで、私は完全な自由を得たいのです "と。
でも、私はどれも憂鬱になりますね。子供をたくさん産むのはいいことだと思うんです。若い頃よりも、もっとそうしたいと思うようになりました。そして、それを楽しみにしているんだ。
Audience Member:
5年後、多くのユーザーはどのようにファウンデーションモデルと付き合っていると思いますか？基本的に微調整されたファンデーションモデルを産業に適応させた、垂直化されたAIスタートアップが多数存在するようになると思いますか？それとも、プロンプトエンジニアリングは、多くの組織が社内の機能として持っているものになると思いますか？
SA:
5年後、私たちはまだプロンプトエンジニアリングをしていないと思います。そして、これはあらゆるところに統合されるでしょう。テキストでも音声でも、状況に応じて言語を使い分け、コンピュータに思い通りに操作させることができるようになります。これはイメージの生成にも応用され、今でも少しはプロンプトエンジニアリングを行っているかもしれませんが、私のためにこの研究をして、この複雑なことをやって、私のセラピストになって、私の人生をより良くするために手助けをして、私のためにコンピュータを使って、こんなことをして、といったことをさせるようになるでしょう。しかし、基本的なインターフェースは自然言語になると思います。
"常に重要なのは、アイデアの質と、何を求めているかという理解である。"
RH:
次の質問に入る前に、実はそのことを少しプッシュさせてください。例えば、「DALL-E」を見てみると、優れたビジュアル思考の持ち主は、より多くのことを考える方法を知っているので、「DALL-E」から多くのことを得ることができます。彼らは、テストを通してループを反復する方法を知っているからです。このようなことが、一般的な真理になると思いませんか？あなたがやっているのは自然言語ですが、さらに一歩進んだ人間の才能が進化していくことでしょう。
SA:
100%.ただ、プロンプトをハックするために、最後に魔法の言葉を付け加えて、他のすべてを変えてしまうような方法を考えないでほしいと思います。重要なのは、アイデアの質と、あなたが何を求めているかを理解することです。だから、アーティストがイメージ生成でベストを尽くすことはあっても、最後に魔法の言葉を加えることを考え出したからではないでしょう。なぜなら、彼らは私にはないクリエイティブな目で、それを明確に表現することができたからです。
RH:
そして、彼らが持っているのはビジョンであり、それをどのように視覚的に考え、反復していくかということです。そして明らかに、今はその言葉やプロンプトであっても、より良い方向へと反復していくのです。なるほど。少なくともここに質問があります。
Audience Member:
どうもありがとうございます。AGIという言葉はよく使われますね。私自身、議論をする中で、AGIの定義が人によって異なることが混乱の元になっていると感じることがあります。AGIは、誰もが自分の考えを投影できる魔法の箱のようなものなのです。AGIをどのように定義し、いつ実現するかはどのようにお考えですか？
SA:
そうですね、もっと早くから定義しておくべきでした。いい指摘ですね。これには有効な定義がたくさんあると思いますが、私にとっては、AGIは基本的に、同僚として雇うことのできる中央値に相当するものだと思います。そして、遠隔地にいる同僚がコンピュータの前で喜んでやってくれるようなことは何でもできます。
医者になる方法を学んだり、有能なコーダーになる方法を学んだり、人間が得意とすることはたくさんあります。AGIのスキルの1つは、特定のマイルストーンではなく、物事を理解するためのメタスキルであり、必要なことがあれば、それができるようになることだと考えています。それがAGIです。そして、超知能とは、全人類を合わせたよりも賢くなることです。
RH:
質問はありますか？うんよかった
Audience Member:
ありがとうございます。今後20年、30年の間に、AIが成長し続けることで発生する主な社会問題とはどのようなものでしょうか？また、そのような問題を軽減するために、私たちが今日できることは何でしょうか？
SA:
明らかに、経済的な影響は大きいです。もし、ある人は非常にうまくいき、別の人はうまくいかないというような乖離が生じたら、今の社会はそれを許容できないと思います。20年後、30年後までにすべての経済活動が崩壊していなくても、明らかに崩壊しているはずです。
新しい社会契約とは何でしょうか。私が思うに、富の公正な分配をどう考えるか、領域の商品となるAGIシステムへのアクセス、そしてガバナンス、何ができて何ができないかをどう決めるか、そういったことを考えなければならないでしょう。これらの疑問に対する答えを見つけることは、非常に大きな意味を持つと思います。
私は、人々が充実した時間を過ごす方法を見つけることができると楽観的に考えています。人々は、そのことを少しばかり愚かな方法で心配しているように思います。人々が何をするかは非常に異なるでしょうが、私たちはいつもこの問題を解決しています。しかし、富やアクセス、ガバナンスの概念は変化していくでしょうし、それらにどう対処していくかが大きなポイントになると思います。
RH:
実は、1つだけ。どのレベルの開発者と共有できるか分かりませんが、OpenAIやあなた方がやっていることで私が気に入っていることの1つは、彼らはこうした疑問について自分たちでよく考え、研究を始めていることです。このような研究を始められたのですね。
SA:
そうなんです。私たちは世界最大のUBIの実験を行っています。5年間のプロジェクトで、あと1年と4分の1が残っています。それが唯一の解決策だとは思いませんが、やっていることは素晴らしいと思います。そして、このようなことをあと10個はやってみるべきだと思います。また、最も影響を受けると思われる多くのグループから意見を聞くために、さまざまな方法を試し、サイクルの早い段階でそれを実行する方法を検討しています。最近では、影響を受けるであろう人々の再教育に、この技術をどのように活用できるかを検討しています。このようなことをもっとたくさんやっていきたいと思います。
RH:
そうなんです。ですから、組織は実際に、これらの素晴らしい質問に取り組み、実際にそれに関する興味深い研究をたくさん行っているのです。では、次の質問です。
Audience Member:
今日、いくつかのパネルでクリエイティビティが話題になりましたが、その使われ方として、人間のクリエイターのためのツールがあり、人間の創造性を拡張して行くように見えますね。クリエイターがより生産的になるためのツールと、何でも自分でやってしまう人工的なクリエイティビティとの境界線はどこにあるとお考えでしょうか？
SA:
そうですね。そして今、クリエイターのためのツールとして、短期的にはAIの素晴らしいアプリケーションになることを目の当たりにしているのだと思います。人々はそれを好みます。本当に便利です。そして、少なくとも私たちが今までに見てきたものでは、AIは代替物ではありません。ほとんどの場合、強化されています。場合によっては代替になりますが、この分野の人々がやりたいと思うような仕事の大半は、強化されるのです。この傾向はずっと続くと思います。最終的には、100年後を見据えたときに、クリエイティブな仕事をすべてこなせるようになるでしょう。
面白いことに、10年前にAIがどのような影響を及ぼすかを尋ねると、多くの人が自信を持って、まず、工場で働くブルーカラーの仕事、トラックの運転手、その他を対象とした仕事が来るだろうと答えたはずです。次に、低技能のホワイトカラーの仕事です。次に、プログラマーなど、非常に高度な技術やIQの高いホワイトカラーの仕事です。そして最後に、クリエイティブな仕事が奪われるでしょう。これはまったく逆の流れです。
この本には、予測がいかに難しいかということについての興味深い指摘がありますが、より具体的には、どのスキルが難しくて簡単か、脳の大部分を使うものと使わないもの、身体をコントロールしたり作ったりするのがいかに難しいかについて、私たち自身さえ、いつもあまり意識していないのではないでしょうか。
RH:
もう1つ、こちらで質問をさせてください。
Audience Member:
どうもありがとうございます。私が聞いた話では、間違っているかもしれませんが、大規模な言語モデルはデータとコンピュータに依存するということです。どんなスタートアップ企業でも、インターネット上のデータですから、同じ量のデータにアクセスすることができます。また、企業によってコンピュート量は異なるかもしれませんが、大手企業であれば同じ量のコンピュート量を得られると思います。では、大規模な言語モデルのスタートアップは、どのように他の企業と差別化できるのでしょうか？
SA:
このミドルレイヤーになると思います。ある意味、スタートアップは自分たちのモデルを訓練することになると思います。膨大な量の計算機とデータで訓練されたベースモデルを使い、その上に訓練して各バーティカル向けのモデルを作るのです。つまり、ある意味、ゼロからではないものの、自分たちでモデルをトレーニングしているのです。しかし、このユースケースのために本当に重要な1%のトレーニングを行っているのです。
そのようなスタートアップは、大きな成功を収め、非常に差別化されたスタートアップになると私は考えています。しかし、それは、そのスタートアップができるデータフライホイールについてであり、その上や下にあるすべての部分についてです。これには、しばらくの間、プロンプトエンジニアリングも含まれるかもしれませんし、コアとなるベースモデルも含まれます。しかし、これではあまりにも複雑でコストがかかりすぎるし、チップも十分に作れません。
RH:
サムは仕事で必要なものがあるんだ。そして、とても遠くのことでもわかると思うけど、サムはいつも境界線を広げてくれる。そして、あなたが落ち込んでいるときとは少し違って、（子供たちの）将来のことであれ、他のことであれ、あなたは私がいつも頼りにしている人なんです。
SA:
それはありがたいことです。
私たちがAIの崖っぷちに立たされていることを、誰も知らないのだと思います。そして、人々は「本当に素晴らしいものになるか、本当に恐ろしいものになるかのどちらかだ」と思っているのです。最悪の事態を想定しておく必要があります。すべてうまくいくというのは戦略ではありませんが、恐怖と絶望の中で常に行動するよりは、感情的に素晴らしい未来に到達できると感じ、そこに到達するためにできる限り努力し、そのためにプレーしたほうがよいでしょう。
RH:
そう、恐怖や妄想から行動していたら、今の私たちはないのですから。では、夕食を共にしたサムに感謝しよう。
SA:
ありがとうございます。
この記事が気に入ったらサポートをしてみませんか？