重み量子化

書いてみる

関連タグ

#QuaRot (1)
#アクティベーション量子化 (1)
#クアロット (1)
#ゼロショットタスク (1)
#パープレキシティ (51)
#ビット (235)
#モデル (14,262)

QuaRot: Outlier-Free 4-Bit Inference in Rotated LLMs

Ikemen Mas Kot
5か月前