見出し画像

OpenAI最新アップデート日本語訳「Function calling and other API updates」

チンプー@GAFAMエンジニア

2023/6/13にOpenAIがgpt-3.5-turboとgpt-4をアップデートしたことを発表しました！
その内容について日本語訳と要約を記します。

記事

要約

OpenAIは、新しい機能呼び出し機能、GPT-4およびGPT-3.5-turboのアップデート版、GPT-3.5-turboの16kバージョン、エンベッディングモデルのコスト削減、GPT-3.5-turboの入力トークンのコスト削減を発表しました。
また、一部の古いモデルの非推奨とアップグレードを開始しました。新しい機能呼び出し機能は、開発者が外部ツールやAPIとGPTの能力をより確実に連携させる新たな手段を提供します。
このアップデートにより、より多くの人々にGPT-4の使用を試してもらい、最終的には完全にウェイトリストを撤廃する予定です。
さらに、GPT-3.5 Turboの16kバージョンは、1リクエストあたり約20ページのテキストをサポートできるようになります。
エンベッディングモデルの価格は75%引き下げられ、GPT-3.5-turboの入力トークンのコストも25%引き下げられました。

日本語訳

関数呼び出しとその他のAPI更新 Function calling and other API updates

今年初めにgpt-3.5-turboとgpt-4をリリースし、わずか数ヶ月で開発者がこれらのモデルをベースに驚くべきアプリケーションを構築していることを見てきました。

本日は、以下のような興奮の更新情報をお届けします：

  • Chat Completions APIにおける新たな関数呼び出し機能

  • gpt-4およびgpt-3.5-turboの更新版とよりステアラブルなバージョン

  • gpt-3.5-turboの新たな16kコンテクストバージョン（標準は4kバージョン） 最先端のエンベディングモデルに対する75％のコスト削減

  • gpt-3.5-turboの入力トークンに対する25％のコスト削減

  • gpt-3.5-turbo-0301とgpt-4-0314モデルの非推奨発表のタイムライン

これらのすべてのモデルは、3月1日に導入した同じデータプライバシーとセキュリティ保証が付いてきます。お客様は、そのリクエストから生成されたすべての出力を所有し、APIデータは訓練には使用されません。

関数呼び出し Function Calling


開発者は現在、gpt-4-0613とgpt-3.5-turbo-0613に関数を説明し、モデルがそれらの関数を呼び出すための引数を含むJSONオブジェクトを出力するように賢く選択することができます。これは、GPTの能力を外部ツールやAPIとより確実に連携する新たな方法です。

これらのモデルは、関数が呼び出される必要があるときを検出するとともに（ユーザーの入力に依存）、関数シグネチャに準拠するJSONで応答するように微調整されています。関数呼び出しにより、開発者はモデルからより確実に構造化データを取得できます。たとえば、開発者は次のようにできます：

  • 外部ツールを呼び出して質問に答えるチャットボットを作成します（例：ChatGPTプラグインなど）

「来週の金曜日にAnyaがコーヒーを飲みたがっているかメールで確認して」というクエリを、send_email(to: string, body: string)という関数呼び出しに変換したり、「ボストンの天気はどう？」という問いをget_current_weather(location: string, unit: 'celsius' | 'fahrenheit')という関数呼び出しに変換する。

  • 自然言語をAPI呼び出しやデータベースクエリに変換する

「今月のトップ10の顧客は誰ですか？」という問いを、get_customers_by_revenue(start_date: string, end_date: string, limit: int)という内部API呼び出しに変換したり、「アクメ社は先月何件注文しましたか？」という問いをsql_query(query: string)を用いたSQLクエリに変換する。

  • テキストから構造化データを抽出する

extract_people_data(people: [{name: string, birthday: string, location: string}])という関数を定義し、Wikipediaの記事に登場するすべての人々を抽出する。

これらの使用例は、/v1/chat/completionsエンドポイントの新APIパラメータ、functionsおよびfunction_callによって可能になりました。これらは、開発者がJSONスキーマを通じてモデルに関数を説明し、特定の関数を呼び出すように依頼するオプションを提供します。私たちの開発者向けドキュメンテーションから始めて、関数呼び出しが改善できる場合には評価を追加してください。
---------------------------------------------------------------------------

ChatGPTプラグインのアルファリリース以来、ツールと言語モデルを安全に連携させる方法について多くを学びました。しかし、まだ研究の余地があります。例えば、証明概念的な攻撃は、ツールの出力からの信頼できないデータが、モデルに予期しない動作を指示する方法を示しています。これらとその他のリスクを軽減するために取り組んでいます。開発者は、信頼できるツールからの情報のみを利用し、メールを送信したり、オンラインで投稿したり、購入するなど、実際の影響を及ぼす行動をする前にユーザー確認ステップを含めることで、自分たちのアプリケーションを保護することができます。

新しいモデル

GPT-4
gpt-4-0613は、関数呼び出し機能を含む更新された改善モデルを提供します。

gpt-4-32k-0613は、gpt-4-0613と同様の改善を含みながら、より大きなテキストの理解を向上させるために文脈長を延長します。

これらの更新に伴い、数週間以内に待機リストから多くの方々をGPT-4の試用に招待する予定で、このモデルで完全に待機リストを取り除くつもりです。忍耐強く待っていてくれたすべての方々に感謝します。GPT-4を使って何を作り出すか楽しみにしています！

GPT-3.5 Turbo
gpt-3.5-turbo-0613はGPT-4と同様の関数呼び出し機能を提供し、システムメッセージを通じたより確実な操作性を提供します。これらの機能は開発者がモデルの応答をより効果的にガイドするのを可能にします。

gpt-3.5-turbo-16kは、gpt-3.5-turboの4倍の文脈長を提供し、その価格は2倍です：1Kの入力トークンあたり$0.003、1Kの出力トークンあたり$0.004です。16kの文脈は、モデルが1回のリクエストで約20ページのテキストをサポートできることを意味します。

モデルの非推奨
本日、今年3月に発表したgpt-4とgpt-3.5-turboの初期バージョンのアップグレードと非推奨化プロセスを開始します。安定したモデル名（gpt-3.5-turbo、gpt-4、およびgpt-4-32k）を使用しているアプリケーションは、6月27日に上記の新しいモデルに自動的にアップグレードされます。バージョン間のモデル性能を比較するために、Evalsライブラリは公開およびプライベートの評価をサポートし、モデルの変更があなたの使用ケースにどのような影響を与えるかを示します。

移行に時間が必要な開発者は、APIリクエストの'model'パラメータでgpt-3.5-turbo-0301、gpt-4-0314、またはgpt-4-32k-0314を指定して、古いモデルを引き続けて使用することができます。これらの古いモデルは9月13日まで利用可能で、その後はこれらのモデル名を指定したリクエストは失敗します。モデルの非推奨化に関する最新情報は、私たちのモデル非推奨ページを通じて把握することができます。これはこれらのモデルへの初めての更新ですので、スムーズな移行を確保するために開発者のフィードバックを熱心に歓迎します。

価格の引き下げ


私たちは引き続き、システムをより効率的にする努力を続けており、その節約を開発者に還元しています。これは今日から有効です。

エンベッディング
text-embedding-ada-002は私たちの最も人気のあるエンベッディングモデルです。本日、1Kトークンあたりのコストを75%引き下げ、$0.0001にすることを発表します。

GPT-3.5 Turbo
gpt-3.5-turboは私たちの最も人気のあるチャットモデルであり、何百万人ものユーザーにChatGPTを提供しています。本日、gpt-3.5-turboの入力トークンのコストを25%引き下げています。開発者は1Kトークン当たり$0.0015、出力トークン当たり$0.002でこのモデルを利用することができ、これはおおよそ1ドルあたり700ページに相当します。

gpt-3.5-turbo-16kは1Kの入力トークンあたり$0.003、1Kの出力トークンあたり$0.004で価格設定されています。

開発者からのフィードバックは、私たちのプラットフォームの進化の基石であり、我々はあなたから聞いた提案に基づいて改善を続けます。開発者がこれらの最新モデルと新機能をどのように使用するかを見ることを楽しみにしています。

この記事が気に入ったらサポートをしてみませんか？