ラビットチャレンジ(応用数学)

【第1章：線形代数】

行列とは：
　　スカラーを表にしたものベクトルを並べたもの

単位行列(I)とは：
　　掛けても掛けられても相手が変化しない行列

逆行列(A^-1)とは：
　　ある行列で線形変換した空間を元に戻す行列
　　・逆行列の定義：A×A^-1 = A^-1×A = I
　　・逆行列の求め方：吹き出し法 / 公式を使う
　　　※プログラムでは「吹き出し法」をよく使う!!
　　・逆行列が存在しない場合：行列式 = 0の時

行列式とは：
　　平行四辺形の面積を表現したようなもの
　　・特徴
　　　①同じベクトルが含まれていると行列式はゼロ
　　　②1つのベクトルがλ倍されると行列式はλ倍される
　　　③ほかの成分がすべて同じでi番目のベクトルだけ違った場合、行列式の足し算になる

固有値分解とは：
　　与えられた行列を直行するベクトルとその大きさに分解すること
　　※正方行列に対してのみ行うことができる
　　・固有値分解することで行列の累積を計算しやすくすることができる

特異値分解とは：
　　正方行列以外に対して固有値分解を行うこと
　　・計算方法は下記のページ参照
　　　https://nisshingeppo.com/ai/singular-value-decomposition/
　　・画像の圧縮などに使用することができる

【第2章：確率・統計】

確率：
　　・頻度確率：発生する頻度(客観確率)
　　・ベイズ確率：信念の度合い(算出することが困難な確率)
　　・ベイズ測：P(A)P(B|A) = P(B)P(A|B)

統計：
　　・記述統計：集団の性質をようやくし記述する(母集団が対象)
　　・推測統計：集団から一部を取り出して元の集団の性質を推測する(標本を対象)
　　・確率変数：事象と結び付けられた数値
　　・確率分布：事象の発生する確率の分布
　　・分散：データの散らばりぐらい　
　　・共分散：2つのデータ系列の傾向の違い
　　　　　　　・正なら似た傾向
　　　　　　　・負なら逆の傾向
　　　　　　　・ゼロなら関係性に乏しい
　　・二項分布：ベルヌーイ試行をn回行い、成功する回数Xが従う確率分布
　　・ガウス分布(正規分布)：釣鐘型の連続分布
　　・推定量：パラメータを推定するために利用する数値の計算方法
　　・推定値：実際に試行を行った結果から計算した値
　　・標本平均：標本の平均　一致性と不偏性をもっている
　　・標本分散：標本の分散　一致性はもっているが不偏性はない
　　・不変分散：標本平均から自由度を調整した分散

【第3章：情報理論】

シャノンエントロピー：
　　自己情報量の期待を表現するもの
　　・機械学習では、誤差関数に使用されている
　　・公式や単位の説明は下記を参照
　　　https://st-phys.blogspot.com/2019/06/shannon-entropy.html

カルバック・ライブラー・ダイバージェンス：
　　同じ事象・確率変数における異なる確率分布P,Qの違い
　　・Q：事前に見積もった確率
　　・P：後に判明した確率
　　　⇒この誤差について考えること
　　・公式/機械学習との関連は下記を参照
　　　https://qiita.com/TomokIshii/items/b9a11c19bd5c36ad0287

交差エントロピー：
　　KLダイバージェンスの一部を取り出したもの
　　・Qについての自己情報量をPの分布で平均している
　　・機械学習では、2値分類や多値分類における予測の誤差に使われる
　　　⇒確率的勾配降下法との相性が良いため