LM Studioでのprimerの作り方（「ローカルLLMはこーやって使うの💢」を受けて…）

※本ブログはアフィリエイトリンクを含みます

lm studioを使ってローカル環境で言語モデルを動かす際、プライマー（primer）を設定することで、モデルの振る舞いをある程度コントロールすることができるそうです。ここでは、lm studioでプライマーを作成する方法を説明します。

まず、lm studioのチャット画面で適当な文章を入力します。例えば「テスト」などと入力してみましょう。次に、画面右上の"export"から"copy as formatted prompt"をクリックして、llmとどのようなプロンプトのやり取りが行われているかを確認します。

copy as formatted prompt

そして、画面右側のバーから"prompt format"を選択し、"User Message Suffix"の部分を編集します。ここにプライマーとして設定したい内容を記述します。（オリジナルのリンクを参照してください）

編集が終わったら、"Message format preview"で設定内容を確認します。意図したフォーマットになっていることを確かめてください。

以上の手順で、lm studioにプライマーを設定することができます。

ただし注意点として、この方法だと1回目のプロンプトにしかプライマーが適用されません。2回目以降も適用したい場合は、毎回"User Message Suffix"の部分を編集する必要があります。

lm studioを使う際は、規約を守り、あくまで自己責任で使用するようにしましょう。プライマーの内容次第ではモデルが意図しない出力をする可能性もあるので、慎重に設定することをおすすめします。