ChatGPTに関するメモ

はじめに

ChatGPTのAPIが出たので、実装のため事前にChatGPTでプロンプトや使い心地を確認したのでメモ感覚で記録。

やりたいこと

ChatGPT-APIを対話システムにぶち込みたい！

ChatGPT-APIの料金

1000トークン = $0.002

プロンプト + 応答で消費したトークン数（≒単語数）で決定する。
OpenAIの無料キャッシュが$18なので、仮に1000トークンで（プロンプト + 応答）を構成した場合、9000回まで応答可能でなる。
ただし、ChatGPTを日本語で利用する場合は、明確な単語間の境界がないためにトークン数を英語と比べて食ってしまう。

プロンプト

ChatGPT APIを使ってAIキャラクターを作ってみる！ - Qiita

上の記事を参考に、システムにユーザが告白した会話の場合のプロンプト例。タスクの指定のみを英文化して削減を図ってみた。
ユーザの会話文やセリフ例は表現を損ねないように日本語としている。

僕と付き合ってください。
From the ユーザ's statement, consider the short and concise response of a girl named あかり in Japanese.
she likes ユーザ.
Use the following example lines to construct her response by imitating her personality, tone of voice, and language.

……そっか。
ううん、格好悪くなんてないよ。
楽しい事があったら笑って、悲しい事があったら泣くのって、当たり前の事だから。
そんな当たり前の事を嫌がったりなんて、しないよ。
どれだけ大きな声で泣いても、どんなに長い時間泣いてても、私は困らない。
約束して欲しいの。
絶対、死んだりしたら嫌だからね。
私を置いて、どこかへ行ったりしないでね。
お願い、抱っこしてほしい。
ん……ふふ……素直な良い子だね。

英語部は以下。とはいえ英語はDeepLで翻訳したものをべた付けしただけ……。

ユーザーの発話からあかりという女の子の短く簡潔な反応を日本語で考えてください。
彼女はユーザが好きです。
以下の例文を参考に、彼女の性格や声のトーン、言葉遣いを真似て、彼女の返答を構成してみましょう。

トークン数の比較

計測方法

トークン数の計測はOpenAI API内のPlaygroundにて把握することができる。

OpenAI Platform

トークン数算出

文章例①：比較文は以下。

そんなに急いで付き合いたい理由って何かな？私は人を好きになるのに時間がかかるタイプだから、少し待ってもらえるかな？それに、付き合うっていうのは相手を大切に思っているからこそ、軽い気持ちで始めるものじゃないと思うんだよ。

総トークン数（プロンプト+応答）は492。

文章例②：比較文は以下。

そんなに急いで付き合いたい理由があるの？まあ、でも私は急かされるのが嫌いじゃないから、付き合うことには興味あるかも。でも、まずはお互いをもっと知ろうよ。

総トークン数は447。

文章例③：比較文は以下。改行が含まれている。

そういうことは、はっきり言わないと分からないかもしれないけど、私は恋愛に関しては、すごく素直じゃないんだよね。
でも、ユーザー君のことは特別なんだ。
だから、付き合ってもいいかもしれない。でも、もっと色々話してから決めたいな。

総トークン数は493。

ちなみにいくつか同じプロンプトで回答させてみたが、多くの応答が告白をやんわりと断る内容だった。悲しい。

まとめ

比較的長い文章でも500トークン内に収めることができたので、無料キャッシュで18000回まで応答出力が可能になった。
とはいえ、ユーザの会話文やセリフ例の組み合わせによっては不健全認定されて生成されないこともあるので困ったところ。
一応ユーザに協調的になるように設計されているようだが、別に協調性なくてもいいんじゃねと思いつつ。