LangChain のトークン使用状況の追跡
「LangChain」の「トークン使用状況の追跡」を試したのでまとめました。
前回
1. トークン使用状況の追跡
「トークン使用状況の追跡」は、現在「OpenAI API」にのみ実装されています。
「with get_openai_callback() as cb:」ブロック内で使われたトークン数をカウントし、「cb.total_tokens」で確認できます。ブロック内の全てのチェーンやエージェントで使われた合計トークン数が返されます。
2. Colabでの実行
Google Colabでの実行手順は、次のとおりです。
(1) トークン使用状況の追跡対象として、以下の会話エージェントを準備。
(2) トークン使用状況の追跡付きで会話実行。
今回は、「ぼっち・ざ・ろっくの作者は誰だっけ？」の処理で使われたトークン数をカウントします。
from langchain.callbacks import get_openai_callback
# トークン使用状況の追跡
with get_openai_callback() as cb:
agent_chain.run(input="ぼっち・ざ・ろっくの作者は誰だっけ？")
print(cb.total_tokens)> Entering new AgentExecutor chain...
Thought: Do I need to use a tool? Yes
Action: Current Search
Action Input: ぼっち・ざ・ろっくの作者
Observation: まんがタイムきららMAXで『ぼっち・ざ・ろっく！』載せてもらってます ⑤巻発売中。アニメ2022年10~12月放送してました。バンド大好き！アニメ公式. 『ぼっち・ざ・ろっく！』（BOCCHI THE ROCK!）は、はまじあきによる日本の4コマ漫画。『まんがタイムきららMAX』（芳文社）にて、2018年2月号から4月号までゲスト連載 ... Dec 31, 2022 ... 今期のアニメーション界の話題を席巻する作品になった、はまじあきの4コマ漫画『ぼっち・ざ・ろっく！』。 ... 「陰キャならロックをやれ！」という ... Dec 31, 2022 ... 『ぼっち・ざ・ろっく！』作者・はまじあきインタビュー「 ぼっちちゃんの性格は、私自身の投影です（笑）」 ... 『ぼっち・ざ・ろっく！』は秀逸なセリフ、 ... Feb 27, 2019 ... ぼっち×女子高生×バンドという異色の組み合わせが話題の『ぼっち・ざ・ろっく！』。作者・はまじあき先生の、ロックすぎるインタビューをお届けし ... TVアニメ「ぼっち・ざ・ろっく！」エンディング映像/「なにが悪い」 · ED映像のキャラ（喜多郁代）が中指を立てていると話題に · 喜多郁代中指ファンアートが生まれてしまう ... Dec 30, 2022 ... 同人誌即売会「コミックマーケット101」（C101）が東京ビッグサイトで開催。1日目となる12月30日に、人気アニメ「ぼっち・ざ・ろっく！ 【Lyric Video】結束バンド「ギターと孤独と蒼い惑星」／ TVアニメ「ぼっち・ざ・ろっく！」第5話劇中曲 · アニプレックス チャンネル. アニプレックス チャンネル. Jan 16, 2023 ... 漫画『機動戦士ガンダム サンダーボルト』の作者・太田垣康男氏が16日、自身のツイッターを更新し、アニメ『ぼっち・ざ・ろっく』のイラストを公開した。 Dec 25, 2022 ... 作者さんのロック遍歴が詳しく知れますね。 ちなみに僕は5巻までで「アーティスト自体は聴いてたけど扉絵の曲は聴いたことなかったパターン」が7、 ...
Thought: Do I need to use a tool? No
AI: はまじあきさんが『ぼっち・ざ・ろっく！』の作者です。
> Finished chain.
20912091トークンが使われたことがわかります。
davinciは1000トークンが$0.02なので、$0.041 (5円ほど) になります。
次回
この記事が気に入ったらサポートをしてみませんか？