AWQ

書いてみる

関連タグ

#LLM (4,734)
#transformers (207)
#量子化 (88)
#AI (295,998)
#AIアイネス (8)
#AutoAWQ (1)

キャリブレーションデータにもっと気を配ろうの話

Sakusakumura
6か月前

色々なライブラリでLLMを量子化してみる

sharp_engineer
3週間前

WSL2でMixtral 8x7B Instruct with AWQ & Flash Attention 2を試してみる

noguchi-shoji
6か月前