「#llamacpp」の人気タグ記事一覧｜note ――つくる、つながる、とどける。

iOS・Android のローカルLLM実行環境まとめ

2週間前

70

Llama.cpp で Command R+ を試す

1か月前

52

llama.cpp による transformersモデルの量子化

4週間前

15

【無料】ローカルPCで動く日本語LLM（ELYZA-japanese-Llama-2-7b-instruct）

2か月前

19

Llama.cppのOpenAI互換モードを使って、OpenAIから少ない手間でローカルLLMに乗り換える

3か月前

31

wandb を活用して LangChain を日本語ローカルLLM 対応させる

4か月前

54

Mixtral-8x22Bをllama.cppで実行する

1か月前

4

話題のArrowPro-7B-KUJIRA の量子化モデル使ってみました

10日前

2

【ローカルLLM】Windows10でllama-cpp-pythonを動かす

3週間前

4

llama.cppのserver.exeに起動オプションを送って起動できるPythonコードを公開しました。

1か月前

4

【ローカルLLM】Windows10のllama.cppでGPUを使う

1か月前

6

[オタク機器日記] RTX8000で4bit量子化版Command R+ 104B版を試す

小野谷静@オノセー

1か月前

6

【ローカルLLM】Windows10でllama.cppを動かす

2か月前

6

【ローカルLLM】Mixtral-8x7bをllama.cppで試す

5か月前

18

macOSオンデバイスでLLMを動かすアプリの比較 -LM studio, Ollama, etc...

2か月前

5

WSL2とllama.cppでKARAKURI LMを試してみる

3か月前

9

早速、SAKANA AIのEvoLLM-JP-A-v1-7Bをllama.cppでggufに変換してローカルPCで実行した。何となくではあるが、blogに書いてあることは出来ている気がする（q4に変換したことが影響したかは謎だけど） https://sakana.ai/evolutionary-model-merge-jp/

2か月前

3

【llama.cpp】CPUとRAM、どっちが重要？

5か月前

6

オープンソースなLLM(calm2-7b)のCPU推論エンドポイントをAzureとllama-cpp-pythonでシュッとつくる

5か月前

17

飛行機でOpenAIのLLMが使えなくなるのでローカルLLMをMacBook Pro(M2)で使えるようにしておく

makiart（藤巻晴葵）

8か月前

29