アダムオプティマイザー

書いてみる

関連タグ

#モデル (12,352)
#KLダイバージェンス (8)
#L2正則化 (7)
#TNGD (1)
#アナログハードウェア実装 (1)
#ウォームアップ (182)

Thermodynamic Natural Gradient Descent

Ikemen Mas Kot
1か月前

Better & Faster Large Language Models via Multi-token Prediction

Ikemen Mas Kot
1か月前