![見出し画像](https://assets.st-note.com/production/uploads/images/137658729/rectangle_large_type_2_102aadf107d93320568249cc99bd4a7f.jpeg?width=1200)
手軽に高性能なアシスタントを作る!ChatGPT API V2の新機能解説
OpenAI DevelopersはXの公式アカウントで、ChatGPTのAPIがV2にアップデートした事を告知しました。OpenAIのAssistants APIの最新バージョン(V2)は、初心者開発者にとって使いやすい機能が多く含まれています。
公式発表の解説
それでは複数回に分けて投稿されたXへのポストを見ながら詳しく解説していきます。
大量のファイルを効率的に扱う能力が強化
Introducing a series of updates to the Assistants API 🧵
— OpenAI Developers (@OpenAIDevs) April 17, 2024
With the new file search tool, you can quickly integrate knowledge retrieval, now allowing up to 10,000 files per assistant. It works with our new vector store objects for automated file parsing, chunking, and embedding. pic.twitter.com/SL0gYknlyA
新しいファイル検索ツールを使うことで、知識の取得をすばやく統合でき、アシスタントごとに最大10,000ファイルまで扱うことができるようになりました。これは自動ファイル解析、チャンキング、および埋め込みのための新しいベクトルストアオブジェクトと連携して機能します。
このアップデートでは、大量のファイルを効率的に扱う能力が強化されているため、大規模な情報を管理・活用するアプリケーションには特に有益です。例えば、以下のような利点があります:
情報の迅速な取得と整理: 新しいファイル検索ツールにより、大量のドキュメントから必要な情報を迅速に抽出できる。これにより、ユーザーは情報を素早く見つけ出し、意思決定を加速できる。
スケーラビリティ: アシスタントが最大10,000ファイルまで扱えることで、より大きなデータセットを効果的に管理し、分析することが可能になる。
自動化と効率化: ファイルの自動解析、チャンキング、埋め込みにより、データの前処理が自動化され、手間が減少する。これはデータサイエンスやマシンラーニングプロジェクトでの時間短縮につながる。
柔軟な統合: 他のシステムやプラットフォームとの連携が容易になるため、異なるツール間でのデータの移動や活用がスムーズに行える。
APIの使用コストを効率的に管理するための機能
New token controls allow you to set maximum input and output tokens per run to manage costs. You can also choose how many recent messages to use for context truncation.https://t.co/m8vR14AbW2
— OpenAI Developers (@OpenAIDevs) April 17, 2024
新しいトークンコントロールを導入しました。これにより、実行ごとの最大入力トークン数と出力トークン数を設定してコストを管理できます。また、コンテキスト切り捨てに使用する最近のメッセージの数も選択できます。
このアップデートは、APIの使用コストを効率的に管理するための機能を提供しており、以下のメリットが考えられます:
コスト管理: 実行ごとの最大入力と出力トークン数を設定することで、APIの使用コストをより細かく制御できる。これにより、予算を超えることなく、APIを使用することが可能になる。
効率的な情報処理: コンテキスト切り捨てに使用するメッセージの数を選べるため、必要な情報のみを使って応答を生成することができる。これは、不要な情報を省き、より関連性の高い応答を得るために役立つ。
パフォーマンスの最適化: 入力と出力のトークン数を調整することで、APIの応答時間を短縮し、パフォーマンスを向上させることができる。
具体的なツールや機能の使用不使用を指定できる
Support for tool choice lets you specify whether to use file search, code interpreter, or a particular function in a given run—increasing precision in your assistant’s operations.https://t.co/GfZTi7Z4YO pic.twitter.com/epaGW3WZr5
— OpenAI Developers (@OpenAIDevs) April 17, 2024
ツール選択のサポートにより、実行時にファイル検索、コードインタープリタ、または特定の機能を使用するかどうかを指定できるようになりました。これにより、アシスタントの操作の精度が向上します。
このアップデートは、APIを使用する際に、より具体的なツールや機能を選択できるようにすることで、その精度と効率を高めることを目的としており、以下の様なメリットがあります:
カスタマイズ性の向上: ユーザーが特定のタスクに最適なツールを選択できることで、アシスタントの動作をより細かくコントロールできる。
精度の向上: 必要に応じてファイル検索、コード実行、特定の機能を選択できるため、アシスタントが提供する解答や実行結果の正確性が向上する。
効率的なリソースの使用: 各実行において最適なツールを選べることで、無駄な処理を避け、APIのリソースを効率的に利用することができる。
OpenAIのAssistants APIの新バージョン(v2)詳細説明
Discover additional updates such as model configuration settings (like temperature and JSON mode), SDK helpers for streaming and polling, support for fine-tuned models, and more in our docs: https://t.co/AOmeHKKW0v
— OpenAI Developers (@OpenAIDevs) April 17, 2024
Excited to see what you build!
モデルの設定(温度設定やJSONモードなど)、ストリーミングやポーリングのためのSDKヘルパー、ファインチューンされたモデルのサポートなど、さらなるアップデートを私たちのドキュメントで確認してください:https://platform.openai.com/docs/assistants/whats-new
あなたが何を作るか見るのが楽しみです!
OpenAIのAssistants APIの機能拡張や新しいツールの導入について説明しており、このリンク先の情報は、OpenAIのAssistants APIの新バージョン(v2)についての詳細な説明があります。ここで紹介されている主な新機能と改善点をまとめてみます:
改善された検索ツール(file_search):
アシスタントごとに最大10,000ファイルまで取り込むことが可能(以前の500倍)。
検索が速くなり、マルチスレッドを通じた並行クエリがサポートされ、リランキングとクエリの書き換えが強化された。
ベクトルストアオブジェクトの導入:
ファイルをベクトルストアに追加すると、自動的に解析、チャンキング、埋め込みが行われ、検索可能な状態になる。
ベクトルストアはアシスタントやスレッド間で使用でき、ファイル管理と請求を簡素化する。
トークン使用量の制御:
実行ごとの最大トークン数を制御し、トークン使用のコストを管理できる。
各実行で使用される過去のメッセージの数に制限を設けることが可能。
ツール選択パラメータ(tool_choice)のサポート:
特定の実行で特定のツール(file_search、code_interpreter、または特定の関数など)の使用を強制することができる。
カスタム会話履歴の作成:
役割がassistantのメッセージを作成し、Threadsでカスタム会話履歴を作成できる。
モデル設定パラメータのサポート:
人気のモデル設定パラメータ(温度、応答フォーマット(JSONモード)、top_p)をAssistantとRunオブジェクトでサポート。
ファインチューンモデルの使用:
現在、gpt-3.5-turbo-0125のファインチューンバージョンのみがサポートされている。
ストリーミングのサポート:
Assistants APIがストリーミングをサポートするようになった。
ストリーミングとポーリングヘルパーの追加:
NodeとPythonのSDKに複数のストリーミングとポーリングヘルパーが追加された。
移行ガイドの提供:
最新バージョンのAssistants APIへのツール使用の移行方法について学べる。
この記事が気に入ったらサポートをしてみませんか?