ニューラルネットワークの原理

本

運営しているクリエイター: catalyst2064

#ニューラルネットワーク

ニューラルネットワークに関するコードと記事を改定＆整理統合しました

コードの改定＆整理統合これまでに実装したニューラルネットワークのバージョンは次の3本です。 ANNニューロン版　― 投稿日：2023年07月19日 ANN行列版　　　　― 投稿日：2023年08月16日 SNN BindsNET版　 ― 投稿日：2024年06月22日これらのコードは、公開から時間が経って気に入らない部分が出てきたり、実装のバラツキが気になっていたので、1つにまとめる方向で改定＆整理統合しました。新しいバージョンは次のように使います。 ANN

スパイキングニューラルネットワークでMNIST（手書き数字を識別）

この記事は、改定＆整理統合されました。新版はこちら⬇です。これは何？ひょんなことから、現在主流の人工ニューラルネットワーク（ANN）とは別にスパイキングニューラルネットワーク（SNN）なるものが存在することに気付きました。ANNについてはすでにニューロン版と行列版を実装したのでSNNの実装もこの調子で…と思ったのですがあまりにも違いすぎます！ ANNは連鎖律がベースですが、SNNは神経回路シミュレーションがベースになっています。神経回路シミュレーションには興味が湧いたも

ニューラルネットワークの連鎖律を解く（偏微分は横に置いておく）

この記事は、改定＆整理統合されました。新版はこちら⬇です。これはなに？誤差逆伝播法のベースになっている連鎖律を解くと、ニューラルネットワークの理解が捗ります。そこで、連鎖律を解くための教材として「ネットワーク図」と「連鎖律の図」、そしていい感じの「お題」を用意しました。まずはお題から。【お題】重み$${w_{32}^{(2)}}$$を更新したい。どうやるの？このお題はシンプルですがニューラルネットワークの連鎖律を解く上で必要にして十分な要素が詰まっています。このお

ニューラルネットワークを「行列」を使って書き換えた

この記事は、改定＆整理統合されました。新版はこちら⬇です。前回はニューロンを使ってニューラルネットワーク「Fiber」を実装しましたが、今回はこれを行列を使って書き換えました。以降は、それぞれをニューロン版、行列版と呼ぶことにします。読み始める前に行列版の実装を通じて分かったことを書いています。実装に使用したプログラミング言語はPython 3です。実行環境はGoogle Colabです。動作確認も同様です。本稿には「ライブラリのインポート」「活性化関数」

ニューラルネットワークの仕組みが知りたい

この記事は、改定＆整理統合されました。新版はこちら⬇です。そもそもの始まりは「ディープラーニングAIはどのように学習し、推論しているのか」を読んだことにあります。当初は人工知能については利用者に徹しようと考えていました。しかし、生成AIのあまりにも魔法すぎる性能に驚愕するとともに頭の中で警鐘が鳴ったのです。せめて人工知能がどのように動作しているのか概要くらいは知っておきたいと思って読んだのがこの本です。この本に出てくる数式と言えば$${y=ax+b}$$くらいでほぼ図と