【GPT-4 32kを使ったテキスト生成】英語解説を日本語で読む【2023年6月26日｜@They Call Me Hoz】
Nat.Devというウェブサイトは、GPT-4 32kを含むさまざまな大規模言語モデルへのアクセスを提供しています。ChatGPTには文字数の制限がある一方、Nat.Devではより広範なテキストの入力が可能であると述べています。ユーザーは異なるモデルを比較し、プロンプトを送信してコンテンツを生成することができます。全体として、Nat.Devは大規模言語モデルの探索やテストに役立つツールとして見なされていますが、日常的な使用には適していないかもしれません。
公開日：2023年6月26日
※動画を再生してから読むのがオススメです。
Now, one of the limitations of ChatGPT that gets on everyone's nerves is the fact that it only takes in a certain amount of characters.
さて、ChatGPTの制限の1つで、みんなの神経を逆なでするのは、一定の文字数しか取り込めないという事実です。
In fact, a ChatGPT at the moment with the chat GPT version 4, um, will only take in 8,000 characters.
実際、ChatGPTのバージョン4では、8,000文字しか入力できません。
So not an awful lot if you want to paste in quite a significant amount of text and then start using that text to ask questions, summarize, and do all of those useful things that we can do with ChatGPT.
だから、かなりの量のテキストを貼り付けて、そのテキストを使って質問したり、要約したり、ChatGPTでできる便利なことを全部やろうと思ったら、そんなに多くない。
But I found a place, uh, called, and I'll just scroll down here a little bit so you can see it.
でも、私は場所を見つけました、えー、ちょっとここまでスクロールダウンしてみてください。
There you go, Nat.Dev.
Nat.Devです。
And basically, it has every model under the sun, a large language model that is, um, but one that it really does have that is incredible is this.
基本的に、太陽の下ですべてのモデルを持っている、言語モデルですが、本当に信じられないものの一つがこれです。
If we just zoom in a little bit over here, look at this GPT-4 32k.
ちょっと拡大して、GPT-4 32kを見てください。
So that is one of the models that it has in here which will give us a whole load.
これはこの中にあるモデルの一つで、このモデルで全言語を処理することができます。
We need four times the characters that are normal tokens should we say four times the tokens that normal GPT4 will give us.
通常のトークンに比べて4倍の文字数が必要です、つまり、通常のGPT4が提供するトークンの4倍ですね、と言いましょう。
And all you need to do is just use this.
必要なのはこれだけです。
You can, you have to submit like five dollars.
5ドル分提出する必要があります。
You can see I've done it already at the top there.
一番上にあるように、私はすでにやっています。
Just five dollars to try it out.
試すためにたった5ドルです。
And then if you want to top it up, you can do.
そして、さらに上乗せしたければ、そうすればいい。
You just literally click buy five dollars in credits.
文字通り、5ドルのクレジットを購入するをクリックするだけです。
Now, to find out more about the person who's developed this, you can just go to the Discord which is just here.
これを開発した人についてもっと知りたいなら、ここにあるDiscordに行けばいい。
And I can see there's like one and a half thousand people online at the moment, 23,000 members.
現在、オンラインには1.5千人、23,000人のメンバーがいる。
So this is not some new, uh, new development that, uh, you know, is run by some scammer or something.
だから、これは詐欺師とかがやってるような、新しい、あー、新しい開発じゃないんだ。
And then here you go, you've got it also on GitHub as well.
そして、ここにありますね、GitHubでも利用できますよ。
But, you know, I wouldn't necessarily go and put in any super personal information in here because we don't know everything about it.
ただし、ここには個人情報を入力しない方がいいですよ、なぜなら私たちがそれについて全てを知っているわけではないからです。
But at least it gives you a chance to play about and use GPD4 32k.
でも少なくとも、GPD4 32kを使って遊ぶチャンスはある。
Now, you can't get that in OpenAI's playground, and some people are lucky if they've even got four in there and on the 16k version.
今、OpenAIのプレイグラウンドではそれが手に入らないし、いくつかの人々はそこに4つさえあれば幸運ですし、16kバージョンではありますが。
So this is a great opportunity to play about with it.
ですから、これはそれを使って遊ぶ絶好の機会なのです。
Then also the other thing I like about this Nat.Dev is that you can compare models.
それから、このNat.Devで気に入っている点は、モデルを比較できることです。
And this has got just about every model that you've ever seen in your life.
このNat.Devには、あなたがこれまで見てきたすべてのモデルが収録されている。
So if we wanted to, we can literally go, Oh, look, there's a Claude.
ですから、もし私たちが望むなら、まさにこうやって行くことができます。あ、見てください、クロードがいますね。
If you haven't heard of Claude, it's made by Anthropik, like a competing company to OpenAI with another large language model.
もしもあなたがクロードについて聞いたことがなければ、それは別の大規模な言語モデルを持つOpenAIと競合する会社Anthropikによって作られました。
They've got a few different versions, including this one, which is if I just tick the box there, it is.
彼らはいくつかの異なるバージョンを持っていますが、これはそのうちの一つです。ここで、このボックスにチェックを入れれば、それです。
That is the 100K version.
これは100Kバージョンです。
So that is a hundred thousand tokens that you can use.
つまり、10万個のトークンを使うことができます。
You can plant in there like a whole book virtually.
事実上、本1冊分の資金を投入することができます。
And then, if we scroll down just along here, you'll see we've got all these other different versions - one from Co here, ones I haven't even heard of to be quite honest with you - hug face models of Google there as well.
そして、こちらに少しスクロールダウンすると、他のさまざまなバージョンが表示されます。ここにもありますよ、Coからのもの、正直言って私は聞いたことがないものもありますし、Googleのhug faceモデルもあります。
We all know about Hugging Face if you're into this space.
Googleのハグフェイスモデルもあります。
Then we've got gbts, so we've got the GPT 3.5 turbo by OpenAI four, and then all these other versions of four, including the 32k as well.
それから、GPT3.5ターボのOpenAI 4や、32kを含む他のバージョンの4もあります。
So, if you wanted to, you can test the two of them together, and then you can just put your prompt in here, and we can see how good they are at actually doing what you want.
ですから、もし望むなら、2つのモデルを一緒にテストすることができます。そして、ここにプロンプトを入力するだけで、あなたが望むことを実際にどれくらいうまくやってくれるかを見ることができます。
So, let's just try something real quick.
では、早速試してみましょう。
Can you write me a 1,000-word article about the benefits of using AI in small businesses and do it in a friendly journalistic style?
中小企業におけるAI活用のメリットについて、フレンドリーなジャーナリスティックスタイルで1,000ワードの記事を書いてもらえますか？
All right then, we just click submit, and we watch the magic happen.
それでは、投稿をクリックして、魔法が起こるのを見よう。
And look at this, they're off, and you can see at the rate that they actually are producing the content, which is really easy as well.
これを見てください、彼らは出発しました。そして、彼らが実際にコンテンツを制作している速度を見てください。
You can see you've got like a little timer down here and how long it takes.
タイマーのようなものが表示され、どのくらい時間がかかるかがわかります。
Look at all these characters coming into it here, absolutely loads.
ここに来る全てのキャラクターを見てください、本当にたくさんいますよ。
So, this is really, really useful to test out the different models against each other.
このように、さまざまなモデルを互いにテストするのにとても便利です。
There is even at the top here, in metrics, we can see if we just - there we go - you can see over this number of time here, you can see the speed at which these different models are performing, the completion response time, and by day and date.
ここの上部にもあるように、メトリクスで、こちらで見ることができます、この時間帯の数に関して、異なるモデルがどのようにパフォーマンスを発揮しているか、完了応答時間、そして日付ごとに。
You can pick different models here like this if you want to compare them together, which is really, really interesting.
これを使えば、異なるモデルを選択して比較することができます。本当に興味深いですね。
So, we can see at the moment that, for example, GPT-4, the completion time is 47 seconds compared to Claude's 14, and then the standard response time is quite slow, and the number of tokens that it's going through per second is relatively slow, but to be fair, it does do a great job, GPT-4, and probably the best one of the lot.
ですから、現時点では、例えばGPT-4の完了時間は47秒であり、クロードの14秒と比較して、標準の応答時間はかなり遅く、1秒あたりに処理されるトークンの数も比較的遅いですが、公平に言って、GPT-4は素晴らしい仕事をしており、おそらく最も優れています。
Anyway, by the way, if you're into any of these large language models and chat EBT, you should really check out my free group, which is just here, and we've got getting on for 6,000 members now, and you can join for free, just literally, go to members.
とにかく、ちなみに、もしあなたがこれらの大規模な言語モデルやChatGPTに興味があるなら、私の無料のグループをチェックしてみることを本当におすすめします。こちらにありますので、私たちのメンバーは現在6,000人近くになりましたが、無料で参加することができます。メンバーに行って、あなたのメールアドレスと名前を入力するだけで、世界中のこれらのAIとChatGPTに夢中な人々と交流することができます。
And then just join up with your email address and name, and then you can jump in and interact with all these people from around the world who are obsessed with AI and ChatGPT.
そして、あなたのメールアドレスと名前で参加して、世界中のこれらのAIとChatGPTに夢中な人々と一緒に参加することができます。
They're trying out all of the different language models.
彼らは様々な言語モデルを試しています。
We're talking about AI detection, all kinds of interesting stuff.
AI検出について、あらゆる興味深いことを話しています。
So there's a link underneath this video if you want to learn more about that and come and join in.
ですから、もしそれについて詳しく学びたい場合は、このビデオの下にリンクがありますので、参加してみてください。
But yeah, getting back to this, it's really, really interesting to compare the different models.
でも、この話に戻ると、異なるモデルを比較するのは本当に、本当に興味深いことです。
And you can see we've got OpenAI, Anthropic Forefront, and Alef Alpha.
OpenAI、Anthropic Forefront、そしてAlef Alphaです。
So a lot of different models.
多くの異なるモデルがあります。
We've also got the ability to just use it like we would ChatGPT, but with any of these models as well.
また、ChatGPTと同じように、どのモデルでも使えるようになっています。
So at the moment, we're using Claude instant.
今はクロード・インスタントを使っています。
We can scroll down and try something else like that 32k just there.
下にスクロールして32Kのような他のものを試すことができます。
Let's try it in here as well.
ここでも試してみましょう。
Write me a 500 word article all about electric vehicles and the benefits of using them.
電気自動車と電気自動車を使うことの利点について、500語の記事を書いてください。
There we go.
そうだ。
Let's see how it works.
どうなるか見てみよう。
Boom, there it does.
ドカンと来た。
The remarkable benefits of electric vehicles.
電気自動車の素晴らしい利点です。
And it's off and very quick and efficient, as you can see.
そしてそれはオンで、非常に素早く効率的です、ご覧の通りです。
Now we could, of course, extend that massively because of the ability to have 32,000 tokens.
もちろん、32,000トークンを持つことができるので、これを大幅に拡張することもできます。
And this is going to be really useful for people who want to kind of summarize large articles and things or you know, huge website content or PDFs or something you want to just copy and paste straight into here.
これは、大きな記事などを要約したい人や、巨大なウェブサイトのコンテンツやPDFなどをコピーしてそのままここに貼り付けたい人にとって、本当に便利なものになるだろう。
At least you're going to be able to do it.
少なくとも、あなたはそれができるようになります。
You can actually rate it and everything there as well and then copy just like you can in ChatGPT2.
ChatGPT2でできるように、実際に評価したり、コピーすることもできます。
So that's really good.
これはとても良いことです。
Now zooming out, if we go back to our comparison, yeah, it does wipe it.
さて、ズームアウトして比較に戻ると、消去されます。
So be prepared to note that if you move from this page to another and come back, it has wiped everything we've asked it to do.
このページから別のページに移動して戻ってくると、私たちが頼んだことがすべて消去されていることに注意してください。
But we can just submit it again because why not?
でも、また提出すればいいんです。
We're just making AI's work via an API and not real humans.
私たちはAPIを介してAIに仕事をさせているだけで、本物の人間ではないのだから。
Now one thing I did notice is that Claude instant dv100k just seems to have stopped just there, seems to have paused, whereas OpenAI's GPT-4 has gone through and even that just seems to have paused as well.
今ひとつ気づいたのは、クロード・インスタントdv100kはそこで止まってしまったようで、一時停止しているようだ。一方、OpenAIのGPT-4は通過し、それも一時停止しているようだ。
So I don't know what would happen if I just press continue because that's what we do in ChatGPT.
ChatGPTでやっていることだから、continueを押したらどうなるかわからない。
Let's see what happens there.
そこで何が起こるか見てみましょう。
Okay, no.
OK, no.
Nope, neither of them have continued and what they've done is just basically responded to this request just here.
いいえ、どちらも続いていませんし、彼らがしたのは、基本的にはこのリクエストにただ応えただけです。
So I'm not quite sure why that didn't go through.
なぜそれが通らなかったのかよく分かりません。
Maybe there's a limit on here, some of these settings.
おそらく、ここには制限があるかもしれませんね、いくつかのこれらの設定に。
Oh, there we go.
あ、そうですね。
Look at this.
これを見てください。
Parameters maximum length.
パラメータの最大長です。
So we probably want to crank this up just up here if we want to be able to use more tokens and generate longer content.
より多くのトークンを使ってより長いコンテンツを生成したいのであれば、おそらくこのあたりを上げたいところでしょう。
If you want to know what any of these filters do down on the right-hand side, just hold your mouse over them.
右側のフィルターが何をするのか知りたければ、マウスをその上に置いてください。
And then, it explains them over there.
すると、そこに説明が表示されます。
There you go, can be used to reduce repetitiveness.
これで、繰り返しを減らすことができます。
For example, repetitiveness is sometimes where it keeps saying the same thing within that particular bit of content.
たとえば、繰り返しは、特定のコンテンツ内で同じことを繰り返すことがある場合があります。
And then, you can go through and just hold your mouse over and learn.
そうすれば、マウスをかざすだけで学習することができる。
And don't forget, you've got all of these different ones that you can compare.
そして忘れてはならないのは、比較できるさまざまなコンテンツがあるということだ。
You can even compare three or even four of them together.
3つ、あるいは4つを一緒に比較することもできる。
Look at this, so you can have them all in the same window.
これを見てください、だからすべてを同じウィンドウに持つことができます。
Even a very, very useful system.
とても便利なシステムだ。
And for five dollars, to have a little play around, you can see that everything I've just done has cost me like what, 24 cents.
5ドルで、ちょっと遊んでみただけで、私が今やったことは全部で24セントだったことがわかる。
So it's not exactly horrendous just to experiment with.
だから、実験してみるだけなら、決して恐ろしいものではない。
I wouldn't say you would really want to be using this system for your main daily driver.
このシステムを毎日のメインドライバーに使いたいとは思わないだろう。
For that, it's got to be, you know, really ChatGPT at the moment, probably the plus version or the playground, because you do have the 16k facility in there, the 16,000 tokens with GPT4.
そのため、現時点では、実際には、おそらくプラスバージョンまたはプレイグラウンドの本当に強力なChatGPTでなければならないですね。なぜなら、GPT4には16kの機能が備わっているからです。
Hopefully, if you've got that in your account and, um, yeah, it's just a little bit of a fun toy to have a little play around with to test these large language models.
もしあなたのアカウントにそれがあれば、うーん、それはちょっとした楽しいおもちゃですよ。これらの大規模な言語モデルをテストするために遊んでみるのにぴったりです。
But thanks ever so much for watching.
ご視聴ありがとうございました。
I hope you enjoyed this video.
このビデオを楽しんでいただけたなら幸いです。
If you did, like and subscribe, and there will be another video in just a second, so hold fire.
もし楽しんでいただけたなら、「いいね！」と「購読」をお願いします。
この記事が気に入ったらサポートをしてみませんか？