記事一覧
UnityでPhi-3を使う方法
完成スクリーショット
下のリンクのアセットを使用すると使えるようになるのですが、日本語だとうまくいかないので調整する必要があります。
なぜかというと、英語だと出力を逐次stringにして取得すれば問題ないのですが、日本語だと漢字が複数のbyteで構成されているため、出力をbyteとして全て溜めて、最後に一気にbyteを文字列化しないと文字化けするからです。
llama.csに次の関数を追加。
[LangChain]これが欲しかったPartial prompt templatesを分かりやすく解説
今回はLangchainのPartial prompt templatesについて解説します。
1. はじめにChatGPTなどの大規模言語モデルを使用すると、様々なタイプのプロンプトを使用するため、適切な管理が求められると思います。
特に、一部の情報が固定されている一方で、他の部分が動的に変わる場面では、そのテキストの構造を効率的に管理する方法が求められます。「Partial prompt t
[LLM 論文]自動でプログラムのバグを修正する次世代技術"Repilot"の日本語解説
追記: 自分で読んでまったく分からなかったので、主要と思われるセクション3と4について、ChatGPTにさらに詳しく易しく説明してもらった補足を細かく入れました。特に数式周りが理解しやすくなってます。
追記2: この論文のタイトルにもある「自動プログラム修復」というのは、バグの特定とバグの修復の2つのフェーズで構成されるのですが、この論文はバグの修復のみに焦点を当てた内容のため、僕が付けたこの記
[LangChain]謎機能のチャット版FewShotChatMessagePromptTemplateを分かりやすく解説
前回これを解説しました。今回はその亜種のチャット版です。
前回と違い、OpenAIで通信することを想定して、最終出力物を適切なものにしています。
↓ 公式ドキュメント
・これなに?複数のあらかじめ用意した文章と、類似した意味の文章を検索するモジュールを組み合わせると、新規のワードとそれに似た文章を合体させてくれる機能です。
例えば、
・「昨日はハンバーグ食べた」「おいしそうですね」
・「1+
[LangChain]謎機能Few-shot prompt templatesを分かりやすく解説
一生調べててやっと理解したのでこのnoteに残します。
・これってなに単体の機能としては、複数の文字列セットを保持して、そこから一気に全てのセットをもらったり、〇番目の文字列セットをもらったりするだけです。
例えば、
"今日は", "うどん食べた"
"明日は", "かつ丼食べる"
という文字列セットを用意した場合に、
じゃあこれに、
"明後日は","うな重食べる"
を末尾に追加しよう!とした時
[LangChain]分かりやすくカスタムプロンプトテンプレートを解説
公式ドキュメントを参考に解説します。
プロンプトテンプレートの応用であるカスタムテンプレートがテーマです。
・そもそもプロンプトテンプレートって何例えば、
"{name}さん、こんにちは!"
という使いまわしが効くプロンプトを作りたい場合に使用します。
↓公式サンプル
from langchain import PromptTemplateprompt_template = PromptTem