サム・アルトマン | AGIは良くも悪くもない。人間がどう使うかによる
皆さんが興味を持っているのは、非常に大規模なモデルが生み出すAPIに基づいて、実際のビジネスチャンスはどこにあるのか、将来を見据えてどのような方法があるのか、そしてAPIが複数のプレイヤーに提供される中で、どのように独自のビジネスを作り出すかということだと思います。
はい、そうですね。これまでは、素晴らしいコピーライティングのビジネスや、ある種の教育サービスなどの領域にとどまっていました。しかし、まだ「1兆ドル規模のGoogleに挑戦する」というような動きは見られていません。それが今まさに起ころうとしているのです。成功するかもしれませんし、Googleが自ら行うかもしれません。しかし、今後数年間で見られる言語モデルの品質を考えると、検索製品に関して初めてGoogleに真剣な挑戦が行われるだろうと推測します。
人々は本当に「基本的なことがどのように変わるのか」を考え始めています。それは非常に強力なものになるでしょう。人間レベルのチャットボットインターフェースが今回は実際に機能すると思います。私たちが皆からかっていたこれらのトレンドの多くは、単に時期尚早だったのです。チャットボットの話は良かったのですが、時期が早すぎただけでした。今なら機能します。
素晴らしいアドバイスを得られる新しい医療サービスや新しい教育サービスなど、これらは非常に大きな企業になるでしょう。そう遠くない将来にマルチモーダルモデルが登場し、新しい可能性が開かれると思います。人々はコンピュータを使用して物事を行うエージェント、プログラムを使用するこのアイデアで素晴らしい仕事をしています。
自然言語でやりたいことを言って、この種の対話のやり取りで反復し、洗練させ、コンピュータがあなたのためにそれを実行するという言語インターフェースのアイデアがあります。DALLEやCo-pilotで非常に初期の形でこれが見られます。しかし、これは大きなトレンドになると思います。このインターフェースを使用して非常に大規模なビジネスが構築されるでしょう。
より一般的に言えば、これらの非常に強力なモデルは、モバイル以来本当に新しい技術プラットフォームとなるでしょう。その後には常に新しい企業の爆発的な増加があるので、それは素晴らしいことになるでしょう。
大規模言語モデルがAPIサービスとして提供されるとして、AIビジネスを考えている人々が、持続可能で差別化されたビジネスを作るために考えるべき重要なポイントは何だと思いますか?
はい、他の人々が基盤として構築する少数の基本的な大規模モデルが存在すると思います。しかし、現在起こっているのは、ある企業が大規模言語モデルAPIを作成し、他の人々がその上に構築するという状況です。私は、重要な中間層が出現すると考えています。
独自のモデルをトレーニングしようとしているすべてのスタートアップに懐疑的です。それは続かないと思います。しかし、起こると思うのは、既存の非常に大規模な将来のモデルを取り、それを調整する全く新しい一連のスタートアップが登場することです。これは単なる微調整ではありません。医学用、コンピュータ使用用、または友人のような種類のモデルを作成するために多くのアクセスが提供されると思います。
そして、これらの企業は、ベースモデルを作成する必要はありませんが、自分たちだけで使用できるか、他の人と共有できる独自のデータフライホイールを持つ何かを作成したため、多くの永続的な価値を生み出すでしょう。そのデータフライホイールは時間とともに改善されていきます。この中間層で多くの価値が創出されると思います。
最も驚くべきものは何だと思いますか? 例えば、数年前の驚きは、インターネットでトレーニングしてコードを書くことでした。今朝、ケビン・スコットとこのことについて少し話しました。予想外に広がると思われる驚きは何だと思いますか?
現在、人々が犯している最大の体系的な思考の誤りは、「言語モデルが本当に機能するかもしれないと懐疑的だったかもしれませんが、画像やビデオも含めて機能するでしょう。しかし、人類のための新しい知識を生成することはないでしょう。他の人がやったことを再現するだけで、それでも素晴らしいことですが、知能の限界コストを非常に低くするだけで、根本的に新しいものは作り出さないでしょう。がんを治すことはなく、人類の科学的知識の総和に加えることはないでしょう」と考えていることです。これが間違いだと判明し、現在の専門家を最も驚かせると思います。
では、次に科学について話しましょう。科学者によるAPIの利用など、科学がどのような分野で加速され、どのように加速されると思いますか?
現在起こっていることは2つあり、後に大きな3つ目のことが起こると思います。1つ目は、AlphaFoldのような科学専用の製品があり、これらは膨大な価値を加えています。そして、これがさらに多くの分野で、さらに多く見られるようになるでしょう。もし私に時間があれば、今すぐバイオ企業に取り組むことにとてもワクワクすると思います。そこでは本当に素晴らしいことができると思います。
2つ目は、私たち全員をずっと生産的にするツールがあります。これらは新しい研究の方向性を考えるのを助け、多くのコードを書いてくれるので、1人のエンジニアや科学者の生産性を2倍にするような影響があります。これが、AIが科学に貢献する意外な方法だと思います。それは明白なモデルの外にありますが、これらのツールが現在できることを見ても、Co-pilotを例にとっても、それよりもずっとクールなものがあるでしょう。これは技術開発や科学開発の方法に大きな変化をもたらすでしょう。
そして、現在探索し始めている大きなことは、この言葉を使うのをためらいますが、1つの使い方は問題ないのですが、もう1つはより恐ろしいのですが、自己改善できるAI科学者です。私たち自身の仕事をAI開発者として自動化できるでしょうか? それが最初に行うことです。それが、私たちが解決方法を知らない本当に難しいアライメント問題を解決するのに役立つでしょうか? 正直なところ、そうなると思います。
自己改善の怖いバージョン、つまりSF本にあるような自分のコードを編集し、最適化アルゴリズムを変更するなどのバージョンがあります。しかし、人間が行うことに近い、あまり怖くない自己改善のバージョンもあります。それは、新しい科学を発見しようとする際に、説明を考え、それをテストし、思考するなど、人間に特有のプロセスをAIに教えることです。それが人間の進歩と長期的な経済成長の唯一の本当の推進力だと私は強く信じています。そして、科学的進歩を可能にする社会構造、そして科学的進歩そのものです。私たちはそれをもっと多く作ることになると思います。
特に科学が技術に展開されることについて少し話してください。おそらく多くの人々がアライメント問題を理解していると思いますが、アライメント問題について4文程度で説明する価値があるかもしれません。
はい、アライメント問題とは、この信じられないほど強力なシステムを作るときに、それが私たちの望むことを行わない、あるいは私たちの目標と矛盾する目標を持つ、あるいは私たちをあまり気にしない目標を持つことが非常に悪いことになるということです。多くのSF映画がその結果について描いています。
アライメント問題とは、人類の最善の利益のためにAIをどのように構築するか、人類が人類の未来を決定できるようにするにはどうすればよいか、そして意図しない誤用や悪意のある人が大きな害のためにAGIを使用するような意図的な誤用、さらには私たちを脅威とみなす生き物になるような内部アライメントの問題をどのように避けるかということです。
自己改善システムが私たちを助けるのは、必ずしも自己改善の性質によってではありません。小規模でアライメント問題を解決する方法についていくつかのアイデアがあります。そして、私たちは予想以上にOpenAIの最大のモデルをよりよくアライメンメントすることができました。次に何をすべきかについていくつかのアイデアがあります。しかし、正直に言って、100年先までこの問題をどのように解決するかについて、誰かの目を見て言うことはできません。
しかし、AIが十分に優れていて、「アライメント研究を手伝ってください」と頼むことができるようになれば、それはツールボックスに新しいツールが加わることになると思います。
例えば、あなたと私が話したことの1つは、エージェントに「人種差別をしないで」と言えるかどうかということでした。すべてのトレーニングセットに存在する奇妙な相関データなど、人種差別的な結果につながる可能性のあるさまざまなことを把握しようとするのではなく、モデルが十分に賢くなって人種差別がどのように見えるか、それがどれほど複雑かを本当に理解できるようになれば、「人種差別をしないで」と言うことができます。
はい、その通りです。
AIの進化について、人々が注目すべき今後数年間のムーンショットは何だと思いますか?
より確実性の高いことから始めましょう。言語モデルは人々が考えているよりもずっと先に進むと思います。それを見るのがとても楽しみです。多くの人が計算能力やデータが不足すると言っていますが、それはすべて本当です。しかし、アルゴリズムの進歩がまだたくさんあると思うので、とてもエキサイティングな時期になるでしょう。
もう1つは、真のマルチモーダルモデルが機能すると思います。つまり、テキストと画像だけでなく、1つのモデルであらゆるモダリティを簡単に扱え、物事の間を流暢に移動できるようになります。
また、継続的に学習するモデルも登場すると思います。現在、GPTなどを使用すると、トレーニングされた時点で固定されており、使用すればするほど改善されることはありません。それが変わると思います。
これだけでも、どのようなアプリケーションを人々が構築できるかを考えると、それはすべての人にとって大きな勝利であり、本当に大きな一歩前進となるでしょう。それだけでも本物の技術革命となるでしょう。
しかし、新しいパラダイムへの研究の進歩も続くと思います。起こっているように見えることについて、私たちは予想以上に良い驚きを受けています。新しい知識生成や人類をどのように本当に前進させるかについての質問すべてに、私たちを助けるシステムが登場すると思います。
1つ共有するのが有用だと思うのは、あなたがこれらの強い予測を、単に「あの丘を征服できる」というような楽観的な見方からではなく、かなり批判的な視点から行っているということです。例えば、AIと核融合のような現在漠然と語られている分野について少し話してください。
はい、残念なことに起こっているのは、AIが巨大なバズワードになってしまったことです。これは通常、非常に悪い兆候です。この分野が崩壊しそうだということを意味しないことを願っていますが、歴史的に見ると、新しいスタートアップの創出などにとって非常に悪い兆候です。現在、それが確実に起こっています。
多くの人々が「核融合のためのこれらの強化学習モデルを作っている」などと言っていますが、私たちが知る限り、それらはすべて賢い物理学者が考え出したものよりもはるかに劣っています。人々が「これはAIプラス何か」と言う分野だと思います。多くのことが真実になるでしょう。これが世代最大の技術プラットフォームになると思いますが、私たちは予測を、フロンティアにいて予測可能にスケーリング法則を理解できる場所や、すでに研究を行って「よし、この新しいものが機能する」と言えるところから行うようにしています。
そのように私たちはOpenAIを運営しようとしています。目の前にあることを高い確信を持って次々に行い、会社の10%を完全に探索に向けることです。これは大きな勝利につながっており、5年後にも変圧器を使用しているとは思いません。もっと優れたものが見つかることを願っています。変圧器は明らかに素晴らしいものでしたが、常に次の完全に新しいパラダイムをどこで見つけるかを探すことが重要だと思います。
しかし、予測を行う方法は、「すべてにAIを」というようなことに注目するのではなく、何かが機能するのを見て、それが予測可能に改善されるのを見ることができるかどうかを確認し、そして時には研究のブレークスルーが起こることもあるということを念頭に置くことだと思います。
では、もう2つ質問をして、その後みなさんに質問の機会を設けたいと思います。私は広い視野を描こうとしていますので、皆さんはクレイジーな質問をする機会があります。AIの応用について、例えば金融市場のような非常に重要なシステムについて、どのようなことが起こると思いますか? 高頻度の定量取引システムをこの上に構築するのは自然なことですし、他のようなことも考えられます。これは単なる中立的な軍拡競争になるのでしょうか? ライフ3.0のオメガの観点からどう考えますか?
はい、それはあらゆる場所に浸透していくと思います。私の次の10年間の基本的なモデルは、知能の限界コストとエネルギーの限界コストが急速にゼロに向かって、驚くほど低くなるということです。そして、これらは他のすべてのコストの主要な入力だと思います。ただし、私たちがコストを高くしたいもの、ステータス財などは除きます。
そして、社会全体のコスト構造が変わるという地殻変動が起こるとき、これは以前にも何度も起こっていますが、常にその影響を過小評価してしまう傾向があります。だから、何も変わらないとか、適用されないという高い確信度の予測はしないでしょう。
しかし、重要なことの1つは、物事がゼロまでトレンドするのではなく、ゼロに向かってトレンドするということです。そのため、誰かがコンピューティングとエネルギーに巨額のお金を費やす意思があっても、想像を絶するほどの量の知能とエネルギーを得ることになります。では、誰がそれを行い、どこで最も奇妙なことが起こるでしょうか? コストが下がるだけでなく、実際に支出される量が大幅に増加するからです。
はい、2つの曲線の交点ですね。物事が10倍または100倍安くなり、エネルギーのコストが100万倍安くなり、知能のコストが1億倍安くなったとしても、私は今日のドルで1000倍以上のお金を使う意思があります。そうなるとどうなるでしょうか?
最後にバズワードビンゴの一部として、メタバースとAIについての将来の質問です。何が来ると思いますか?
私は、独立して両方がクールなものだと思いますが、AIがすべてのコンピューティングにどのような影響を与えるか以外に、完全には明確ではありません。
明らかにコンピューティング、シミュレーション環境、エージェント、おそらく教育、おそらくエンターテイメント、確実に教育ですね。AIチューターなどがベースラインになるでしょう。しかし、質問は、あなたに思い浮かんだ特別なことがあるかどうかです。
私は、メタバースが最良のケースで、iPhoneのような新しいソフトウェアのコンテナ、新しいコンピュータとのインタラクションの方法のような、合理的な可能性のある最良のケースで、そのような規模のものになると賭けます。そして、AIは正当な技術革命のような規模のものになると思います。
したがって、AIがメタバースに適合するというよりも、メタバースがこの新しいAIの世界にどのように適合するかということだと思います。ただし、確信度は低く、まだ決定されていません。
質問はありますか?
はい、こんにちは。GPT-3のような基盤技術が生命科学研究、特に医学研究のペースにどのように影響すると思いますか? また、反復サイクルを加速させるということについて、そして生命科学研究において乗り越えられない制限要因は何だと思いますか? 自然の法則のようなものがあるからでしょうか?
現在利用可能なモデルは、この分野に大きな影響を与えるには十分に優れていないと思います。少なくとも、ほとんどの生命科学研究者がそう言っています。彼らはすべてそれを見て、「いくつかのケースで少し役立つ」と言っています。ゲノミクスでは有望な研究がいくつかありましたが、ベンチトップでの作業には本当に影響を与えていません。
しかし、それは変わると思います。これは、新しい1000億から1兆ドル規模の企業が設立される分野の1つだと思います。そのような分野はまれですが、今日存在するものよりも何百倍も優れた、本当の意味で「製薬の未来」を作る会社を作ることができれば、それは本当に違ったものになるでしょう。
あなたが言及したように、バイオには独自のペースがあり、人間の試験にはどれだけ時間がかかるかという制限があります。私が見た最も興味深い合成バイオ企業は、サイクルタイムを超高速にする方法を見つけたものです。
これは、多くの良いアイデアを与えてくれるAIの恩恵を受けますが、それでもそれらをテストする必要があります。これが現在の状況です。スタートアップにとって欲しいものは、低コストと速いサイクルタイムです。それらがあれば、大手企業と競争できるスタートアップになれます。
だから、今すぐこの種の新しい会社で最初に取り組むものとして心臓病を選ぶことはないでしょう。しかし、バイオを使って何かを製造することは素晴らしく聞こえます。
もう1つは、シミュレーターがまだとても悪いということです。もし私がバイオミーツAIのスタートアップなら、確実にそれに取り組もうとするでしょう。
AIの技術が自身を作り出す助けになるのはいつだと思いますか? 自己改善がシミュレーターを大幅に改善するのを助けるようなものですか?
人々は今それに取り組んでいます。どのくらい進んでいるかはよくわかりませんが、非常に賢い人々がそれについて非常に楽観的です。
他に質問はありますか? 私がさらに質問を続けることもできますが、皆さんに機会を与えたいと思います。
はい、こちらです。
マイクが来ています。素晴らしい。
AIによって変わらないと思う生活の側面は何ですか?
すべての深い生物学的なことですね。私たちは他の人々との交流を本当に大切にし続けると思います。楽しみを持ち続け、脳の報酬システムは同じように機能し続けるでしょう。新しいものを作り出したり、くだらないステータスを競ったり、家族を形成したりするような同じ欲求を持ち続けるでしょう。
だから、50,000年前に人々が気にしていたことの方が、100年前に人々が気にしていたことよりも、100年後に人々が気にすることに近いと思います。
その増幅として、次の質問に移る前に、これまでで最高のユートピア的なSF宇宙は何だと思いますか?
良い質問ですね。
(音楽)
正直なところ、スタートレックはかなり良いですね。私は、宇宙を可能な限り探索し理解することに焦点を当てるような作品がすべて好きです。
これはユートピア的なものではありませんが、最後の質問は素晴らしい短編小説です。
はい、それが思い浮かびました。
イアン・バンクスのカルチャーシリーズを期待していました。それらは素晴らしいです。
SFには、これがすべて素晴らしいと言えるような1つの宇宙はないと思います。しかし、SFの楽観的な部分の集合体は、それほど大きくない部分ですが、私は興奮しています。
実は、数日休暇を取ってSFの物語を書きました。AGIの楽観的なケースについて書いたのですが、とても楽しかったので、もっと読みたくなりました。今、読むべき新しいものを探しています。あまり知られていないものがあれば教えてください。
いくつか素晴らしいおすすめを用意します。
同じような文脈で、私の好きなSF本の1つは、アーサー・クラークが60年代に書いた「幼年期の終わり」です。1文で要約すると、地球に来た宇宙人が私たちを救おうとし、ただ子供たちを連れ去って他のすべてを残していくというものです。
はい、それよりは少し楽観的ですが。
まあ、オーバーマインドへの昇天は、より理想郷的なものとして意図されていますが。
はい。あなたはそのように読まないかもしれませんが。
さて、私たちの現在の宇宙、現在の状況では、多くの人々が家族形成と出生率について考えています。人によってアプローチの仕方は異なりますが、あなたの立場から見て、最も有望な解決策は何だと思いますか? 技術的な解決策でなくてもいいのですが、興味があります。みんなが10人の子供を持つこと以外に。
みんなが10人の子供を持つこと以外にですね。
はい、どのように人口を増やすか、AGIと高度な技術と家族形成がどのように共存すると思いますか?
これはOpenAIでよく出てくる質問です。AGIについてどう考えるべきか、子供を持つことについてどう考えるべきかということです。これには合意された答えはないと思います。
AGIのために子供を持たないと言う人もいます。明らかな理由や、あまり明らかではない理由で。また、15〜20年後には子供を持つことが自分にとって唯一のことになるので、もちろん大家族を持つと言う人もいます。それが自分に充実感をもたらすだろうと。
いつものように、これは個人的な決定だと思います。AGIのために子供を持たないと言う人を見ると非常に落ち込みます。EA(効果的利他主義)コミュニティは「子供たちはみな死んでしまうから」と言い、テクノ楽観主義者たちは「AGIと融合して宇宙を探索したい、それはとても素晴らしいことだから、完全な自由が欲しい」と言います。
でも、そのすべてが私にはとても落胆させられます。たくさんの子供を持つことは素晴らしいと思います。私は若い頃よりも今の方がそうしたいと思っています。それが楽しみです。
5年後、ほとんどのユーザーが基盤モデルとどのように相互作用すると思いますか? 業界に適応し、微調整された基盤モデルを持つ多数の垂直化されたAIスタートアップがあると思いますか? それとも、プロンプトエンジニアリングが多くの組織の社内機能になると思いますか?
5年後にはプロンプトエンジニアリングをまだ行っているとは思いません。これはどこにでも統合されて、文脈に応じてテキストや音声で、単に言語でインターフェースし、コンピュータにやりたいことをさせるようになると思います。
それは、一般的な画像生成にも適用されるでしょう。そこではまだ少しプロンプトエンジニアリングが必要かもしれませんが、基本的には「この研究を行って」とか「この複雑なことをして」とか「私のセラピストになって人生をより良くする方法を見つけるのを手伝って」とか「私のコンピュータを使ってこれをして」など、あらゆることを言語で指示することになるでしょう。
基本的なインターフェースは自然言語になると思います。
実際、その点についてもう少し掘り下げてみましょう。次の質問に移る前に、例えば現在でも人間の才能には幅広い範囲があるように、DALLEを例にとると、優れた視覚的思考ができる人はDALLEからより多くのものを引き出すことができます。彼らはより考え、ループを繰り返す方法を知っているからです。これは、ほとんどのこれらのシステムについて一般的な真実になるとは思いませんか? つまり、自然言語がインターフェースの方法であっても、人間の才能の進化するセットがあり、それによってさらに一歩進むことができるということです。
100%そう思います。ただ、プロンプトの最後に1つの魔法の単語を追加して他のすべてを変えるようなプロンプトをハックする方法を見つけ出すことではないことを願っています。重要なのは、アイデアの質と、あなたが何を望んでいるかを理解することです。
アーティストは依然として画像生成で最高の結果を出すでしょうが、それは最後に1つの魔法の単語を追加したからではなく、私にはない創造的な目で articulate できるからです。
確かに、彼らにはビジョンがあり、視覚的な思考と反復の方法があるのですね。
はい、明らかに今はその言葉やプロンプトになるでしょうが、それはより良いものに進化していくでしょう。
質問がある人はいますか?
こんにちは、ありがとうございます。AGIという言葉がよく使われていますが、私自身の議論でも気づいたのですが、混乱の原因はみんながAGIに対して異なる定義を持っていることだと思います。それは誰もが自分のアイデアを投影できる魔法の箱のようなものになっています。あなたはAGIをどのように定義し、どのようにしてAGIが到来したと知ることができると思いますか?
それは素晴らしい指摘です。早くに定義すべきでした。これには多くの有効な定義があると思いますが、私にとってAGIは基本的に、同僚として雇うことができる中位の人間と同等のものです。
つまり、リモートの同僚がコンピュータの後ろで行うことに満足できるようなことは何でもできるということです。これには、医者になる方法を学んだり、非常に有能になる方法を学んだりすることも含まれます。中位の人間には多くのことができるようになる能力があります。
AGIのスキルは、特定のマイルストーンではなく、物事を理解し、解決する方法を学ぶメタスキルだと思います。必要なことに熟達することを決定できるということです。
私にとって、それがAGIです。そして、超知能は人類全体を合わせたよりも賢いときです。
ありがとうございます。AIが成長し続ける中で、今後20〜30年の間に発生する主な社会的問題は何だと思いますか? また、それらの問題を軽減するために今日できることは何でしょうか?
明らかに、経済的影響は huge です。私が考えるほど発散的なものであれば、一部の人々が信じられないほどうまくいき、他の人々がそうでないという状況を社会は今回は許容しないでしょう。だから、経済活動の多くを破壊し、20年か30年後にはすべてが破壊されるわけではないとしても、すべてが破壊されることが明らかになるとき、新しい社会契約はどのようなものになるのかを考える必要があります。
私の推測では、解決しなければならないことは、富の公平な分配をどのように考えるか、AGIシステムへのアクセス(これは王国の商品のようなものになるでしょう)、そしてガバナンス、つまり私たちが集団的にそれらが何をできて何ができないかを決定する方法です。これらの質問への答えを見つけることは非常に重要になるでしょう。
人々が時間の使い方を見つけ、非常に充実感を得られるようになると楽観的に考えています。人々はそのことを少し愚かな方法で心配していると思いますが、人々が何をするかは確かに非常に異なるものになるでしょう。しかし、私たちは常にこの問題を解決してきました。
しかし、富の概念、アクセス、ガバナンス、これらはすべて変化すると思います。そして、それらにどのように対処するかが huge になるでしょう。
実際、どの程度の深さで共有できるかわかりませんが、私が好きなOpenAIとあなたたちがやっていることの1つは、自分たちでこれらの質問について多く考え、研究を始めていることです。これらのことについていくつかの研究を始めていますね?
はい、私たちは世界最大のUBI(普遍的基本所得)実験を行っています。それが唯一の解決策だとは思いませんが、5年間のプロジェクトの残り1年と4分の1が残っています。それは素晴らしいことだと思います。
私たちはもっと10個くらいのそのようなことを試すべきだと思います。また、最も影響を受けると思われるグループから input を得る方法を試みています。それをサイクルの早い段階でどのように行うかを見ています。
最近では、この技術を使って早期に影響を受ける人々のスキルを再教育する方法を探っています。これらのようなことをもっと多くやろうとしています。
はい、組織は実際にこれらの素晴らしい質問に取り組み、多くの興味深い研究を行っているのですね。
次の質問どうぞ。
こんにちは。今日のいくつかのパネルで創造性が話題に上がりました。人間の創造者のためのツールがあり、人間の創造性を拡張するものがあるようです。創造者をより生産的にするためのこれらのツールと、人工的な創造性自体との境界線はどこにあると思いますか?
私は、創造的な人々のためのツールが短期的にはAIの素晴らしいアプリケーションになると思います。そして、それは現在起こっていることだと思います。人々はそれを愛し、本当に役立っています。
少なくとも私たちが今まで見てきたところでは、それは主に強化であり、置き換えではありません。一部のケースでは置き換えていますが、これらの分野の人々が行いたい仕事の大部分に対しては強化しています。この傾向は長い間続くと思います。
最終的には、はい、おそらく100年後を見れば、創造的な仕事全体を行うことができるでしょう。
10年前に人々にAIがどのような影響を与えるかを尋ねたら、ほとんどの人が高い確信を持って次のように答えたでしょう。まず工場で働く人やトラック運転手などのブルーカラーの仕事に来て、次に低スキルのホワイトカラーの仕事、そして非常に高スキルの高IQのホワイトカラーの仕事(プログラマーなど)に来て、最後に、そしておそらく決して来ないだろうと言われていた創造的な仕事に来ると。
しかし、実際には全く逆の方向に進んでいます。これは、一般的に予測がいかに難しいかについての興味深い思い出ですが、より具体的には、私たちが常に自分たちのスキルの難しさや簡単さ、あるいは私たちの脳のどの部分を最も使っているか、あるいは体を制御したり作ったりすることがいかに難しいかについて、常に十分に認識していないということについての思い出です。
こちらに質問がありますね。
こんにちは、ありがとうございます。あなたは、独自の言語モデルをトレーニングしようとするスタートアップには懐疑的だと言及しました。より理解したいのですが、大規模言語モデルはデータとコンピューティングに依存し、どのスタートアップでも同じ量のデータにアクセスできます。なぜなら、それはただのインターネットデータだからです。そして、コンピューティングについては、異なる企業が異なる量のコンピューティングを持っているかもしれませんが、大手プレイヤーは同等のコンピューティングにアクセスできると思います。大規模言語モデルのスタートアップはどのように他のスタートアップと差別化できるのでしょうか?
私は、これは中間層になると思います。ある意味で、スタートアップは自分たちのモデルをトレーニングしますが、ゼロからではありません。彼らは巨大な量のコンピューティングとデータで hugely トレーニングされた基本モデルを取り、その上にトレーニングして、各垂直分野のモデルを作成します。
これらのスタートアップは、ある意味で自分たちのモデルをトレーニングしていますが、ゼロからではなく、このユースケースに本当に重要なトレーニングの1%を行っています。これらのスタートアップは非常に成功し、大きく差別化されると思います。
それはスタートアップが行うことができるデータフライホイールの種類、その上下のすべての部分の種類によるものです。これには、しばらくの間プロンプトエンジニアリングを含むかもしれません。しかし、コアの基本モデルは複雑すぎて高価すぎるようになり、世界も十分なチップを作れなくなるでしょう。
サムは仕事の用事があるので、ここで終わりにしましょう。
おそらくお分かりのように、サムは私の境界を常に拡大してくれます。子供のことや他のことで落ち込んでいるときは、いつもあなたに楽観的な見方を求めています。
ありがとうございます。
とにかく、誰も知りません。私たちはAIの precipice に座っていて、人々は「とても素晴らしいか、とても恐ろしいかのどちらか」と言っています。最悪の事態に備える必要がありますが、「すべてうまくいく」と言うのは戦略ではありません。しかし、感情的には素晴らしい未来に到達できると感じ、そこに到達するために可能な限り懸命に働き、それに向けて努力する方が良いでしょう。恐れや絶望の場所から行動するよりもね。
はい、もし私たちが恐れと偏執から行動していたら、今日ここにいることはなかったでしょう。
サムが私たちと夕食を共にしてくれたことに感謝しましょう。ありがとうございました。
この記事が気に入ったらサポートをしてみませんか?