【GPT-4】英語解説を日本語で読む【2023年5月7日｜@WorldofAI】

新しいGPT-4 32kトークンモデルと、それがどのように言語生成を強化することができるかについて説明します。
公開日：2023年5月7日
※動画を再生してから読むのがオススメです。

---

Hey, what is up guys?

やあ、みんなどうしたんだい？

Welcome back to the WorldofAI.

WorldofAIへおかえりなさい。

In today's video, I got some new groundbreaking news on OpenAI that might be releasing a new token limit of 32k.

今日のビデオでは、OpenAIの新しいトークンリミット32kをリリースするかもしれないという画期的なニュースを入手しました。

Now, this is quite astounding as it basically means that the language model will now be able to process and generate text based on a larger amount of preceding context than its current configurations, which we have in GPT-4, which is around 8000 tokens, and which GPT-3.5 has around 4k.

さて、これは驚くべきことであり、言語モデルが現在のGPT-4（約8000トークン）やGPT-3.5（約4000トークン）の設定よりも、より大量の前置きコンテキストに基づいてテキストを処理し生成できるようになるということを意味します。

As a language model as chatgpt, it uses neural networks to process and generate text based on the input it receives.

chatgptとしての言語モデルとしては、ニューラルネットワークを使って、受け取った入力をもとに処理し、テキストを生成します。

The input is then divided into sequences of tokens, and the model processes each sequence of tokens to generate the next sequence of tokens in an output text.

入力はトークンのシーケンスに分割され、モデルは各トークンのシーケンスを処理して、出力テキストの次のトークンのシーケンスを生成します。

This means that a larger token size such as a 32k limit would mean that chatgpt would be able to take in an account of greater amounts of preceding context when generating an output text.

つまり、32k制限のような大きなトークン・サイズは、chatgptが出力テキストを生成する際に、より多くの先行コンテキストを考慮に入れることができることを意味します。

This could potentially lead to basically having a coherent and announced language output that basically means that the model can be able to access more information on topics at hand.

これは、基本的に一貫した、発表された言語出力を持つことにつながる可能性があり、基本的には、モデルが目下のトピックについてより多くの情報にアクセスできることを意味します。

Now, there was actually a tweet here.

さて、ここで実際にツイートがありました。

Before I actually even get into that, this was actually posted by AK.

その話をする前に、これはAKが投稿したものです。

I highly recommend that you follow this person because he always posts the best content at the latest time.

彼はいつも最新のタイミングで最高のコンテンツを投稿してくれるので、この人をフォローすることを強くお勧めします。

And he basically said that in a community discussion, basically, there were a couple of people who had this prompted up in their window of which model they can select, and in the playground, they were able to select this new model which is a 32k, sorry, GPT-4 32k token limit.

彼は基本的に、コミュニティディスカッションで、選択できるモデルのウィンドウにこれを表示させた人が何人かいたと述べており、プレイグラウンドでは、新しいモデルである32k、すみません、GPT-4 32kトークン制限を選択することができました。

And it was not just one person, it was a couple of people that were actually able to access this, I believe, yesterday.

そして、昨日、一人だけでなく、何人かの人がこれにアクセスすることができたと思います。

So it's quite amazing that OpenAI is going to be releasing this, and we should be able to see this in Q2 to Q3 approximately.

ですから、OpenAIがこれをリリースするというのは非常に驚くべきことで、およそ第2四半期から第3四半期にはこれを見ることができるようになるはずです。

And this will be quite revolutionary as you're going to be able to have a larger token limit, and this could basically take into account greater amounts of preceding context.

これは、より大きなトークン制限が可能になり、それによって前置きコンテキストの大量のデータを考慮に入れることができるという点で、画期的なことになるでしょう。

And that's quite amazing, guys.

これは非常に素晴らしいことです。

But there's one important thing that I wanted to emphasize, and that is the actual cost thing.

しかし、1つだけ重要なことがあり、それは実際のコストに関することです。

There was actually a tweet on Twitter about a couple of hours ago, and they actually did a little breakdown as to how tokens would be cost, like the price of a token based off of a 32k context, token context, and we can see there's a double in price per tokens of a thousand tokens.

実際、数時間前にTwitterでツイートがあり、32kコンテキスト、トークンコンテキストに基づいてトークンの価格がどのようになるか、少し詳細に説明していましたが、1000トークンあたりの価格が2倍になっていることがわかります。

And this is actually quite expensive if you think about it.

そしてこれは、考えてみれば実はかなり高価なものなのです。

But with a 32k limit, you're going to be able to generate different types of content for different use cases, and obviously, you are able to still use GPT-4 as well as GPT-3.5 which work very efficiently and effectively.

しかし、32kの制限があると、異なるユースケースに対して異なるタイプのコンテンツを生成することができ、もちろん、効率的かつ効果的に動作するGPT-4やGPT-3.5も引き続き使用することができます。

But this 32k limit will be used for a lot of different use cases for different aspects which might require large token limits to process larger text.

しかし、この32k制限は、より大きなテキストを処理するために大きなトークン制限が必要となるような、さまざまな局面でのさまざまなユースケースに使用されるでしょう。

But this is quite amazing, guys, to see such news.

しかし、このようなニュースを見ることができるのは、とても素晴らしいことです。

So I'm definitely going to keep an eye out for this, but I just wanted to share this news as it's going to be quite amazing to see in the coming weeks.

私は間違いなくこれに目を光らせておくつもりですが、今後数週間で驚くべきことが見られるであろうこのニュースを共有したいと思いました。

And that's basically it for today's video, guys.

というわけで、今日のビデオはこれでおしまい。

I just wanted to give you a little breakdown on what will be coming out.

何が出てくるのか、その内訳を少し説明したかっただけなんです。

I'll leave this link down in the description below for the comment at the actual forum so you can actually read it because there's a lot of people who are discussing and analyzing what this will actually mean for ChatGPT.

実際のフォーラムでのコメントについては、説明欄にリンクを貼っておきますので、ぜひご覧ください。多くの人がこれがChatGPTにどのような意味を持つのかを議論し分析しています。

So with that thought, guys, thank you so much for watching.

というわけで、視聴していただきありがとうございました。

Please subscribe, like this video, and comment anything you want to see in the future uploads.

また、今後のアップロードで見たいことがあればコメントしてください。

But that's it for today's video, and I'll see you guys soon.

それでは、今日のビデオはこれでおしまいです。

Have an amazing day, have a great small, and I'll catch you guys very shortly.

素晴らしい一日を、素晴らしい小さな一日を、そしてまたすぐにお会いしましょう。

See you guys later.

それでは、また。