GELU

書いてみる

関連タグ

#LIONオプティマイザ (1)
#PFLOPS (1)
#PyTorch (380)
#Relu (9)
#VITS (9)
#adam (659)

GELUとは？GPTが採用する活性化の仕組み

澁谷直樹
1年前

Scaling MLPs: A Tale of Inductive Bias

Ikemen Mas Kot
3か月前