GQA

書いてみる

関連タグ

#CS (3,034)
#LLM (4,633)
#MMLU (8)
#human (357)
#ダイナミックメモリ圧縮 (1)
#メモリ (779)

Dynamic Memory Compression: Retrofitting LLMs for Accelerated Inference

Ikemen Mas Kot
2か月前