gpt-3.5-turboの価格が引き下げられると同時に、バグ修正を含むgpt-4-turbo-previewモデルがリリースされました。テキストモデレーションモデルもアップデートされ、強力なモデレーションが可能になりました。新しいAPI管理ツールにより、開発者はAPIキーの使用状況を理解し、管理することが容易になります。
公開日:2024年1月26日
※動画を再生してから読むのがオススメです。
OpenAIからChatGPTとAPIに関するいくつかの重要な発表がありました。
彼らは新しい埋め込みモデルの新世代、新しいGPT-4 Turbo、およびモデレーションモデルを発表しています。
さらに、新しいAPI使用管理ツールとGPT-3.5 Turboの価格引き下げも近々行われます。
そして、このバージョンではいくつかの大規模な修正と改善があります。
彼らは言っています、「私たちは新しいモデルをリリースし、GPT-3.5 Turboの価格を引き下げ、開発者がAPIキーを管理するための新しい方法とツールを導入しています」。
多くの人々がそれを求めていました。
新しいモデルには、2つの新しい埋め込みモデル、更新されたGPT-4 Turboプレビューモデル、更新されたGPT-3.5 Turboモデル、および更新されたテキストモデレーションモデルが含まれています。
まず、価格が下がった新しい埋め込みモデルがあります。
もしもあなたが機械学習の分野で開発者や研究者であるなら、これは大きなニュースかもしれません。
彼らは言っています、「私たちは2つの新しい埋め込みモデル、より小さくて高効率なtext-embedding-3-small modelとより大きくてパワフルなtext-embedding-3-large modelを導入しています」。
彼らは、テキストとコードの埋め込みの導入について語る埋め込みリソースへのリンクを提供しています。
彼らは言っています、埋め込みとは、自然言語やコードなどのコンテンツ内の概念を表す数列です。
埋め込みは、大規模言語モデルや他のアルゴリズムがコンテンツとの関係を理解し、クラスタリングや検索などのタスクを実行するのを容易にします。
これらはChatGPTやアシスタンスAPIの知識検索などのアプリケーションや、多くの検索増強生成(RAG)開発者ツールに使用されます。
言い換えれば、テキストを取り、埋め込みモデルはその情報をベクトルとして保存し、単語、文、文書などの複雑なデータをよりコンパクトな数値形式で意味的な意味を捉える方法です。
つまり、人間はこれをより理解しやすく、大規模言語モデルもこれをより理解しやすくします。
埋め込みモデルは、一方をもう一方に変換します。
小さなテキスト埋め込みモデルであるtext-embedding-3-smallは、2022年12月にリリースされた前任者よりも大幅にアップグレードされた、非常に効率的なモデルです。
性能が向上し、価格が削減されています。
古いモデルは利用可能ですが、新しいモデルの使用を推奨しています。
そして、大きなモデルであるテキスト埋め込み3 largeは、最も優れたパフォーマンスを発揮する新しいモデルであり、非常に良い結果を示しています。
私たちは埋め込みモデルについて詳しく説明するフルビデオを作るかもしれませんが、これは自然言語やコードのタスクに取り組んでいる開発者や研究者にとって役立つでしょう。
また、感情分析や機械翻訳、さまざまな情報検索などを行っている場合、これらのモデルはより改良され、より安価で使用するのに適しているようです。
ここに埋め込み空間の可視化があります。
詳細は番組の説明欄にリンクを残しておきます。
基本的には、異なる文や単語の異なる意味をクラスターに分類して、より良い理解と検索を行うというアイデアです。
しかし、一般の人々にもっと関連性のある情報に移りましょう。
以下に簡単なアンケートを残しておきます。
私は、このようなものを使用している人の数、これらのテキストとコードの埋め込みモデルを使用する人の数に興味があります。
私は興味があります。
私の予想では、これを見ている人々の数のわずかな割合になるでしょう。
しかし、gpt-3.5-turboモデルは価格が下がっています。
入力価格は50%、出力価格は25%削減されているようです。ですので、GPT-3.5 Turboを使った大量のタスクを行っている場合、かなりの節約になるでしょう。
そして、更新されたgpt-4-turbo-previewモデルでは、GPT-4 APIの顧客の70%以上がGPT-4 Turboに移行しており、更新された知識のカットオフ、より大きな128kのコンテキストウィンドウ、そして低価格を活用しています。
私は以前のモデルがgpt-4-1106-previewだと思います。
ですので、今日彼らは更新されたGPT-4 Turboプレビューモデル、gpt-4-0125-previewをリリースしています。
通常、このモデルの名前にはリリースの日付と月が入ります。
このモデルは、以前のプレビューモデルよりもコード生成などのタスクをより徹底的に行い、タスクを完了しない場合の怠惰なケースを減らすことを意図しています。
新しいモデルには、非英語のUTF-8生成に影響を与えるバグの修正も含まれています。
多くの人々がこれについて不満を述べ、GPT-4が考える曜日によって、これらのコード応答の生成にかける努力が変わるという例についても話していました。これは奇妙ですね。
しかし、ポイントは、それがもっとできるということです。
何らかの理由で、怠惰という言葉がぴったりですが、それは潜在能力に達しなかったのです。
新しいgpt-4-turbo-previewバージョンに自動的にアップグレードされたい方のために、私たちはAliasという名前の新しいgpt-4-turbo-previewモデルを導入しています。これは常に最新のgpt-4-turbo-previewモデルを指すようになります。
まるでリダイレクトリンクのようなものです。
これは常に最新のものを指すようです。
私たちは数ヶ月以内にビジョンを持ったGPT-4 Turboを一般提供する予定です。
そして、更新されたモデレーションモデルもあります。
無料のモデレーションAPIを使用すると、開発者は潜在的に有害なテキストを特定することができます。
私たちは安全性に関する取り組みの一環として、最も堅牢なモデレーションモデルであるtext-moderation-007をリリースしています。
AIシステムの安全な構築についての詳細は、こちらの安全性のベストプラクティスを通じて学ぶことができます。
もちろん、APIの使用方法を理解し、APIキーを管理するための新しい方法もあります。
これは、アカウントに複数の人物がいる場合や、複数の異なるAPIキーを使用している場合に非常に便利です。
たとえば、Twitterでは、APIのコストがどこに使われているかをもっと詳細に見る方法を求める人が多くいます。
例えば、ここでは「laundry buddy key」が異常に高いですが、おそらくそれは冗談として入れられたものだと思います。
彼らは、「開発者により多くの使用状況の可視化とAPIキーの制御を提供するために、2つのプラットフォームの改善を発表します」と述べています。
まず、開発者はAPIキーの権限をAPIキーのページから割り当てることができます。
例えば、キーを内部のトラッキングダッシュボードの読み取り専用アクセスに割り当てることもできますし、特定のエンドポイントにのみアクセスするように制限することもできます。
では、もし私がAIチュートリアルビデオを作成しており、あなたの一人が私のAPIキーを見つけて、それをどこかで使用しようとした場合、どうなるかということですね。
私は守られます。
ははっ!
2つ目に、使用状況のダッシュボードと使用状況のエクスポート機能は、APIキーのレベルでメトリクスを公開するようになりました。
トラッキングをオンにした後、これにより、各機能、チーム、製品、またはプロジェクトのレベルでの使用状況を単純に表示することができます。それぞれのために別々のAPIキーを持つだけで済みます。
そして、今後数ヶ月でさらなる改善があります。
こちらが新しい画面のイメージです。
ですので、APIキーのために名前を入力します。
そして、さまざまな制限オプションや制限オプションモデルがあります。どの機能にアクセスできるか、アシスタントを呼び出す能力があるか、スレッド、微調整ファイルなどです。
読み取り専用キーもあります。
すべての内容を詳しく調べた後、さらなる情報をお伝えします。
ご視聴いただき、ありがとうございました。
チャンネル登録をお忘れなく。
私の名前はウェス・ロスです。次回をお楽しみに。