フィードフォワードネットワーク

書いてみる

関連タグ

#モデル (12,368)
#研究 (32,645)
#自己注意機構 (12)
#GLUEベンチマーク (2)
#トランスフォーマー (975)
#トランスフォーマーモデル (50)

Rethinking Attention: Exploring Shallow Feed-Forward Neural Networks as an Alternative to Attention Layers in Transformers

Ikemen Mas Kot
1か月前

Investigating the Role of Feed-Forward Networks in Transformers Using Parallel Attention and Feed-Forward Net Design

Ikemen Mas Kot
2か月前