「#vLLM」の人気タグ記事一覧｜note ――つくる、つながる、とどける。

自宅PCでクラスターを構築：コンシューマーGPUの枠を超え、大型LLMをローカルで動かす！

2か月前

135

Command R+ GPTQをローカルLLMとしてvllmでOpenAI API互換サーバ動作させてみた話

2か月前

24

Llama3で開発チーム向けのCopilotを構築する

鈴木いっぺい (Ippei Suzuki)

3週間前

9

【論文要約】Evolutionary Optimization of Model Merging Recipes【Claude 3 Opus】

3か月前

5

WSL2でvLLMをコードを読みつつ試してみる

5か月前

12

WSL2でMedusaを試してみる

4か月前

8

WSL2でTinyLlama-1.1B-ChatをvLLMとともに試してみる

5か月前

6

re: WSL2でMedusaを試してみる

4か月前

3

高速なLLM用推論ライブラリ「vLLM」を試す

1年前

13

LaSagnA: Language-based Segmentation Assistant for Complex Queries

2か月前