アダムオプティマイザー

書いてみる

関連タグ

#モデル (13,193)
#KLダイバージェンス (8)
#L2正則化 (8)
#TNGD (1)
#アナログハードウェア実装 (1)
#ウォームアップ (192)

Thermodynamic Natural Gradient Descent

Ikemen Mas Kot
3か月前

Better & Faster Large Language Models via Multi-token Prediction

Ikemen Mas Kot
3か月前