[Transfomerを理解する①]位置エンコーディングについて
本日からTransformerについて勉強した内容を、「Transformerを理解する」シリーズとして整理していきたいと思います。
私自身、理系でも数学が得意でもないので、そういった方でも理解できるようになるべくわかりやすく書きたいと思います。
素人のため、間違ってる箇所が確実に発生するかと思います。あくまでも、Transformerとは何かをイメージするための参考としていただければ幸いです。
位置エンコーディングとは
よく見るTransformerの図の、赤丸の箇