見出し画像
Photo by mogest

GPTでプロンプト圧縮を試みたらすごかった

入江 慎吾 🚀 生成AI導入コンサルタント

ChatGPTのAPIを使う際に会話履歴を残したいとか、最初に大量のインプットをさせてその情報をもとにやりとりしたい、などのニーズがでてきます。しかし、トークン制限や料金の問題であまり大量のデータをやりとりするのは避けたいところ。

そこで、GPT自体にプロンプトでデータを圧縮してもらえるか試してみました。結果、すごかった。

そして、展開もできる。

結果、GPT4で圧縮しないとうまいことできませんでした。3.5だと文字を要約して少し節約できる程度。ただ実際、GPT4のAPI利用料は高いので、コスト的にはどうだろう・・・という感じはあります。それにしてもGPTのすごさにあらためて驚きました。

気に入っていただけたら、シェアしていただけるとうれしいです。