AWQ

書いてみる

関連タグ

#LLM (4,379)
#AI (289,695)
#AIアイネス (8)
#FlashAttention (4)
#GPTQ (13)
#Mixtral8x7b (4)

キャリブレーションデータにもっと気を配ろうの話

Sakusakumura
5か月前

WSL2でMixtral 8x7B Instruct with AWQ & Flash Attention 2を試してみる

noguchi-shoji
5か月前