並列注意フィードフォワードネット設計

書いてみる

関連タグ

#GLUEベンチマーク (2)
#トランスフォーマーモデル (56)
#トークン (3,927)
#フィードフォワードネットワーク (2)
#ブロック (4,399)
#モデル (13,952)

Investigating the Role of Feed-Forward Networks in Transformers Using Parallel Attention and Feed-Forward Net Design

Ikemen Mas Kot
5か月前