ググった記事 2021 week 13

Python

非エンジニアでも使いやすい高機能なPython環境「IPython」「Jupyter」を使ってみよう | さくらのナレッジ

IPython使いこなしたい。

PyTorch

DCGAN Tutorial — PyTorch Tutorials 1.8.1+cu102 documentation

PyTorch公式のGANのチュートリアル。TensorFlowの時もそうだったけれどGANは概要はわかってもDとGの勾配計算を別々に行う方法とかフレームワークへの習熟が必要なので公式で解説してくれるのは助かる。

torchsummaryよりtorchinfoがいいよという話 - Qiita

PyTorchでモデルのレイヤーごとのパラメーター数とかを表示するためのライブラリ。以前ググってtorchsummaryを覚えたけどどうやら古い情報らしく確かにtorchinfoの方が使いやすくわかりやすい。

How the Vision Transformer (ViT) works in 10 minutes: an image is worth 16x16 words

実装までカバーしたVision Transformer(ViT)の解説。かなり助かる。ただMulti-headというのがいまいち分からなくて悩み中。コードを読むしかない。

self-attention-cv

上の記事で使われていたSelf AttentionやTransformerのPyTorch実装。こういうパーツ単位で提供してくれるのは助かる捗る。