ChatGPT＋Googleスプレッドシート｜トークン節約のポイントをChatGPTに聞いてみた

先日、GoogleスプレッドシートのAPI連携はトークン節約がポイント、ということを書きました。
まだ見てない方は是非こちらからご覧ください。

最初はトライアル（無料）で使えるので、課金制だということを知らずにどんどん命令を書き込んでました。ERRORが出てきたり、思ったような結果が出ないと構文を見直したり、リトライを繰り返し。
命令の送受信が多いスプレッドシートを作成しているので、一回のトークン送受信はそこそこ多かったと思います。

そもそもトークンの消費量はどの程度？

テキストの送受信なので、トークンの消費量実はそんなに多くありません。日本語100文字で0.2円程度？文字にもよるので厳密ではありませんが、そんな程度です。

ただ、１つで膨大な量の送受信が発生するスプレッドシートを繰り返し使うとしたら、チリツモですよね〜。

参考までに、下の図はOpenAIの管理画面です。
２番目に長いグラフは、私が数時間スプレッドシートで操作していた結果です。$0.23USDくらいなので、今のレートで約30円かな。

OpenAIの管理画面

トークン節約のポイント３つ：

トークン節約について、ChatGPT（GPT-4）に聞いてみました。回答は以下の通り。

GPT-4：
トークンの送受信を節約するために、いくつかの方法があります。以下にいくつかのポイントを挙げます。

1. まとめて問い合わせる:
複数の質問をまとめて1つのリクエストとして送信することで、API呼び出しの回数を減らすことができます。ただし、GPT-4の応答にはトークン制限があるため、質問が多すぎると結果が切り捨てられることがあります。

2. 入力の短縮:
短いフレーズや単語を使用して質問を表現し、入力トークンの数を減らすことができます。ただし、質問の意図が明確であることを確認してください。

3. 結果の短縮:
応答の長さを制限することで、受信トークンの数を減らすことができます。これは、APIリクエスト時に'max_tokens'パラメータを設定することで実現できます。

Googleスプレッドシートの「GPT for Sheets and Docs」アドインに関しては、まとめて問い合わせる方法が制限される場合がありますが、入力の短縮や結果の短縮は有効です。例えば、セル内で質問を短く表現することで、入力トークンの数を減らすことができます。また、結果が長すぎる場合は、後処理でテキストを切り詰めることができます。

ただし、これらの方法は結果の品質や正確性に影響を与える場合があるため、注意して適用してください。トークンの節約と結果の品質のバランスを見つけることが重要です。

ChatGPT(GPT-4)の回答

なるほど、、、色々と研究の余地がありそう。
次回は、トークン節約について試したことをもう少し書いてみようと思います。