Stage1　応用数学

演習問題の中でつまずいた箇所をまとめる

固有値分解

正方行列を複数の行列の乗算にする分解方法である。まず、ある行列Aにおいて固有値 λ および固有ベクトル $\overrightarrow{v}$ を以下のように定義する。

固有値分解をすると以下の通り。
Vは上記の式をそのまま使用すればよく、特別な計算は不要。

情報量

自己情報量は以下の式で定義される。

対数の底が2の場合、単位はbitとなる。シャノンエントロピーは自己情報量の平均であり以下の式で定義される。