マガジンのカバー画像

ニューラルネットワークの原理

5
運営しているクリエイター

#プログラミング

ニューラルネットワークの連鎖律を解く(偏微分は横に置いておく)

この記事は、改定&整理統合されました。新版はこちら⬇です。 これはなに?誤差逆伝播法のベースになっている連鎖律を解くと、ニューラルネットワークの理解が捗ります。そこで、連鎖律を解くための教材として「ネットワーク図」と「連鎖律の図」、そしていい感じの「お題」を用意しました。まずはお題から。 【お題】重み$${w_{32}^{(2)}}$$を更新したい。どうやるの? このお題はシンプルですがニューラルネットワークの連鎖律を解く上で必要にして十分な要素が詰まっています。このお

ニューラルネットワークを「行列」を使って書き換えた

この記事は、改定&整理統合されました。新版はこちら⬇です。 前回はニューロンを使ってニューラルネットワーク「Fiber」を実装しましたが、今回はこれを行列を使って書き換えました。以降は、それぞれをニューロン版、行列版と呼ぶことにします。 読み始める前に行列版の実装を通じて分かったことを書いています。 実装に使用したプログラミング言語はPython 3です。 実行環境はGoogle Colabです。動作確認も同様です。 本稿には「ライブラリのインポート」「活性化関数」

ニューラルネットワークの仕組みが知りたい

この記事は、改定&整理統合されました。新版はこちら⬇です。 そもそもの始まりは「ディープラーニングAIはどのように学習し、推論しているのか」を読んだことにあります。当初は人工知能については利用者に徹しようと考えていました。しかし、生成AIのあまりにも魔法すぎる性能に驚愕するとともに頭の中で警鐘が鳴ったのです。 せめて人工知能がどのように動作しているのか概要くらいは知っておきたいと思って読んだのがこの本です。この本に出てくる数式と言えば$${y=ax+b}$$くらいでほぼ図と