重み量子化

書いてみる

関連タグ

#QuaRot (1)
#アクティベーション量子化 (1)
#クアロット (1)
#ゼロショットタスク (1)
#パープレキシティ (20)
#ビット (193)
#モデル (12,318)

QuaRot: Outlier-Free 4-Bit Inference in Rotated LLMs

Ikemen Mas Kot
1か月前