ニューラルネットワークの連鎖律を解く(偏微分は横に置いておく)
この記事は、改定&整理統合されました。新版はこちら⬇です。
これはなに?誤差逆伝播法のベースになっている連鎖律を解くと、ニューラルネットワークの理解が捗ります。そこで、連鎖律を解くための教材として「ネットワーク図」と「連鎖律の図」、そしていい感じの「お題」を用意しました。まずはお題から。
【お題】重み$${w_{32}^{(2)}}$$を更新したい。どうやるの?
このお題はシンプルですがニューラルネットワークの連鎖律を解く上で必要にして十分な要素が詰まっています。このお