TriForce

書いてみる

関連タグ

#TriForceアルゴリズム (1)
#データセット (858)
#トークン (3,779)
#モデル (13,514)
#大規模言語モデル (2,333)
#推測的デコーディング (1)

TriForce: Lossless Acceleration of Long Sequence Generation with Hierarchical Speculative Decoding

Ikemen Mas Kot
4か月前