【Core ML】Transformerアーキテクチャの最適化

WWDC24のセッション "Bring your machine learning and AI models to Apple silicon" の「Transformer optimization」チャプターで解説されている内容をまとめる。

Bring your machine learning and AI models to Apple silicon - WWDC24 - Videos - Apple Developer

なお、同セッションで解説されている新しいモデル圧縮手法についてはこちらの記事にまとめた：

また同セッションの「Stateful model（本記事の中で使われている新機能）」についてはこちら：

「マルチファンクションモデル」についても別記事でまとめる予定。

⚠️ 以下、画像、文章は基本的に同セッションからの引用です。