「#ExLlama」の人気タグ記事一覧｜note ――つくる、つながる、とどける。

【ローカルLLM】ExLlamaでtext-generation-webuiによるテキスト生成を高速化する

1年前

15

text-generation-webuiで、ELYZA-japanese-Llama-2-7n-fast-instructをExLlamaでロードし、LoRA適用してみる

saip(さいぴ)

11か月前

7

exllama+GPTQをgoogle colabで試してみた

1年前

1