OpenAI API の Assistan API v2 の新機能
「OpenAI API」の「Assistan API v2」の新機能についてまとめました。
1. Assistan API v2の新機能
「Assistant API v2」の新機能は、次のとおりです。
1-1. file_searchの追加 (元Retrieval)
「file_search」と呼ばれるRetrievalを改良したToolが追加されました。このToolは、Assistantごとに最大10,000個のファイルを取り込むことができます。これは以前の500倍です。より高速で、マルチスレッド検索による並列クエリをサポートし、強化されたRerankingとQuery Rewritingをサポートしています。
1-2. vector_store の追加
file_searchと並行して、「vector_store」が追加されました。ファイルが vector_store に追加されると、自動的に解析、チャンク化、埋め込まれ、検索できるようになります。vector_store はAssistantやThread全体で使用できるため、ファイル管理と請求が簡素化されます。
1-3. 使用するトークンの最大数を制御
使用するトークンの最大数を制御できるようになりました。各Runで使用する以前/最近のメッセージ数を制御することもできます。
1-4. tool_choiceパラメータの追加
特定の実行で特定のTool (file_search、code_interpreter、functionなど) の使用を強制できる、「tool_choice」パラメータを利用できるようになりました。
1-5. カスタム会話履歴の作成
assistantロールでメッセージを作成し、Thredでカスタム会話履歴を作成できるようになりました。
1-6. 一般的なモデル設定パラメータの追加
AssistantとRunは、temperature、response_format (JSONモード)、top_p などの一般的なモデル設定パラメータを利用できるようになりました。
1-7. ファインチューニングモデルのサポート
ファインチューニングモデルが利用できるようになりました。
現在はgpt-3.5-turbo-0125ベースのみサポートします。
1-8. ストリーミングのサポート
ストリーミングが利用できるようになりました。
1-9. SDKへのヘルパーの追加
「Node.js SDK」と「Python SDK」に、「Streaming Helper」と「Polling Helper」が追加されました。
2. v1からv2への移行ガイド
Assistant API の v1と v2 の間で、ToolとFileの操作方法が変更されました。両方のバージョンのベータ版は現在もAPI経由でアクセスできますが、できるだけ早く最新バージョンに移行することが推奨されます。v1は2024年末までに廃止される予定です。
この記事が気に入ったらサポートをしてみませんか？