ANPD

書いてみる

関連タグ

#Nグラムモジュール (1)
#gram (23)
#アルゴリズム (3,221)
#パラレルデコーディング (1)
#マルチレベルNグラム (1)
#モデル (13,740)

Lossless Acceleration of Large Language Model via Adaptive N-gram Parallel Decoding

Ikemen Mas Kot
5か月前