OpenAI DevDay分科会:ChatGPTリサーチ×プロダクト
下記のOpenAI DevDay分科会「Research x Product」の録画を要約しました。
研究チームと製品チームの緊密なパートナーシップについての分科会の内容をセクションごとに見出しを付けると、以下のようになります。
OpenAIの研究と製品チームの協力: OpenAI内での研究チームと製品チームの密接な連携と、それがいかにパフォーマンスとユーザー体験を向上させるかについて。
ポストトレーニング研究チームの役割: OpenAIのポストトレーニング研究チームがどのように機能し、大規模な事前トレーニング言語モデルを適応させ、新しい能力を追加するかについて。
製品と研究の相互作用: OpenAIにおける製品と研究の相互作用と、それがどのように新しい機能や改善に繋がるかについて。
製品管理のユニークな側面: OpenAIでの製品管理の特異性、特に目標設定、技術中心のアプローチ、研究と製品間の相互影響について。
対話インターフェースの進化: GPT-3からChatGPTまでの対話インターフェースの進化と、モデルがどのようにユーザーとの対話を改善してきたかについて。
モデルの振る舞いの設計: モデルの振る舞いをどのように設計し、ユーザーに直感的で役立つ応答を提供するかについて。
将来のモデルと製品戦略: 今後のモデルの方向性、パーソナライゼーションの重要性、多モーダルアプローチについて。
各項目へは下記の目次タップでジャンプします。
OpenAIの研究と製品チームの協力
OpenAIでは、研究チームと製品チームが密接に協力しています。このユニークな関係は、他の多くの企業では見られないものです。彼らは、最先端の研究を世界中のユーザーや開発者に届けるために、さまざまなアプローチやアイデアを試行錯誤しています。特に、対話インターフェースの開発において、どのような形が最も適切かについて多くの議論がありました。当初、社内ではGPT-4を使用していたものの、公開されたのはGPT-3.5でした。これは、最も能力の高いモデルではないという不安があったからです。また、当時、チャットボットはまだ一般的ではなく、どのように受け入れられるかについても不確実性がありました。しかし、最終的にリリースされた一般的なバージョンは人気を博し、多くの製品や企業の基盤となりました。この成功例は、研究と製品の連携がいかに重要かを示しています。
製品と研究の相互作用
OpenAIでは、製品と研究の間に深い相互作用があります。一般的な企業では、研究者が開発したモデルを製品チームがそのまま市場に投入することが多いですが、OpenAIではそのプロセスが異なります。ここでは、研究と製品のチームが密接に連携し、製品の開発においても研究の成果を活かしながら、実際の使用例やユーザーのフィードバックをもとに改善を重ねています。このプロセスを通じて、製品はユーザーにとってより直感的で有用なものとなり、同時に研究チームは実際の使用状況から学び、モデルの改良に役立てています。
この協力の一例として、対話インターフェースの開発が挙げられます。研究チームは、対話が将来の重要なインタラクション形態になると考え、それに基づいてモデルを訓練しました。その結果、ChatGPTは複数ターンにわたる対話において高い性能を示すようになりました。このように、研究と製品の緊密な連携は、技術の革新とユーザー体験の向上を促進しており、OpenAIの成功の鍵となっています。
製品管理のユニークな側面
OpenAIでの製品管理には、他の多くの企業とは異なる独特な特徴があります。まず、彼らの目標は従来の製品メトリクス（収益、エンゲージメント、成長）ではなく、人類全体に利益をもたらす人工汎用知能（AGI）の開発にあります。このような曖昧で大きな目標は、計画、優先順位付け、戦略の考え方に深い影響を与え、成功の定義やマイルストーンの設定において哲学的な議論を生むことがあります。
OpenAIでは技術から出発点を設定しています。標準的な製品開発ではユーザーの問題から始まりますが、OpenAIでは既存の解決策から出発して、それが解決できる問題を探求しています。このプロセスは、従来の思考パラダイムに適合しない場合が多く、問題の存在理由自体を問い直す必要があります。
研究と製品間の相互作用は業界内で前例のない程度に深いものです。例えば、Dollyの開発では、新しい技術能力を世界にどのように導入するかを設計する必要があり、その過程で広範なユースケースにわたる柔軟性と潜在的な影響を最大化すると同時に、社会的影響や安全性に関するリスクも考慮する必要がありました。これらのユニークな特徴は、OpenAIがAI分野で特異な存在となっている理由の一部です。
対話インターフェースの進化
OpenAIでは、対話インターフェースの進化が重要な役割を果たしています。最初に登場したGPT-3は、インターネット上の次の単語を予測することを目的として訓練されていましたが、ユーザーの要求に直接応えるという点では限界がありました。これに対し、InstructGPTは大きな進歩を示しました。このモデルは、ユーザーが求める具体的なタスクを遂行するよう訓練され、より有用な応答を提供するようになりました。しかし、このインターフェースは単一の往復応答に最適化されており、フォローアップの質問やモデルの修正には対応しづらい面がありました。
この問題に対処するため、ChatGPTではモデルを複数ターンにわたる対話に直接訓練しました。これにより、対話は過去のターンや会話を記憶し、より自然で効果的なインタラクションが可能になりました。また、対話を通じてモデルを教えることは、人間が他の人間に教える方法と似ているため、データ収集が直感的になります。このように、OpenAIは対話インターフェースを通じて、モデルの応答をより自然で直感的なものに進化させてきました。これにより、モデルはユーザーのニーズに対してより敏感になり、役立つ存在へと成長しています。
モデルの振る舞いの設計
OpenAIでのモデルの振る舞いの設計は、直感的でユーザーフレンドリーな体験を提供することを目指しています。例えば、「元気ですか？」というような簡単な社交辞令に対して、モデルが非人間的な応答をするとユーザーは楽しめません。また、「最もクールなものは何ですか？」という質問に対して、クールさが主観的で答えが無限に存在するというような複雑な解説をするのも、ユーザーにとっては魅力的ではありません。
このような課題に対処するため、OpenAIではモデルがより人間らしい、理解しやすい応答を提供するように努めています。しかし、モデルの振る舞いを変更することは容易ではなく、何をデフォルトの振る舞いとするかを明確にすることが一つの大きな挑戦です。例えば、「あなたは今、猫です」というユーザーのクエリにどの程度「猫らしく」応答するかが問題になります。
モデルの個性や反応を試験的に変更することで、役立ちながらも奇抜でない応答を目指しています。しかし、ユーザーの好みは主観的であり、ほとんどの人に適したデフォルトの振る舞いが全ての人に適するわけではありません。OpenAIは、モデルが個々のユーザーのニーズに合わせて応答を適応させることを目指しており、その過程でユーザー体験の向上を図っています。
将来のモデルと製品戦略
OpenAIでは、将来のモデルと製品戦略において、パーソナライゼーションと多モーダル性が重要な要素として注目されています。モデルが本当に役立つためには、個々のユーザーに合わせてカスタマイズされる必要があります。その第一歩として、カスタム指示が消費者向けシステムメッセージとして導入されています。ユーザーは異なる使用ケースごとに異なるプロファイルを求めており、今回のアナウンスに含まれるGPTモデルがこれを実現する直感的な方法になることが期待されています。
さらに、モデルはテキストにとどまらず、音や画像を含む多モーダルなアプローチに進化すると予想されています。これにより、モデルはテキストインターフェースを超えて、人々が知識を処理し、作成する場所で彼らに会うことができるようになります。時間が経つにつれ、モデルはより賢いタスクを実行する能力を備えるようになることが期待されています。最初はコピーライティングに優れていたモデルが、他の分野でも役立つように拡張され、将来的には数学、研究、科学的発見などの困難なタスクにおいても有用になることが望まれています。これらの進化は、AI技術の新たな地平を開くことに貢献し、人類の知識と創造性の拡張に寄与するでしょう。
この記事が気に入ったらサポートをしてみませんか？