書記の読書記録#1042『ベイズ信号処理 ―信号・ノイズ・推定をベイズ的に考える―』

関原 謙介『ベイズ信号処理 ―信号・ノイズ・推定をベイズ的に考える―』のレビュー

ベイズ信号処理 ―信号・ノイズ・推定をベイズ的に考える―

レビュー

『統計的信号処理 -信号・ノイズ・推定を理解する-』のうちベイズ統計に特化した内容で，因子分析や判別分析などへの応用も参考になる。

もくじ

第1章　確率と確率分布
1.1　確率
1.2　確率分布
1.3　ベクトル型確率変数
1.4　多次元正規分布

第2章　最尤推定と正則化ミニマムノルム解
2.1　線形離散モデル
2.2　最尤原理と最小二乗法の導出
2.3　線形最小二乗法の解
2.4　L2　ノルム正則化を用いた解
2.5　劣決定系での最小二乗推定
問題

第3章　ベイズ推定の基礎
3.1　ベイズ定理
3.2　線形離散モデルでの未知量推定
3.3　未知量xの点推定
3.4　線形正規モデルでの事後確率分布の導出
問題

第4章　EMアルゴリズム
4.1　未知量xとハイパーパラメータの推定
4.2　ハイパーパラメータに対する尤度
4.3　平柊データ尤度
4.4　線形正規モデルにおけるEMアルゴリズム
4.5　L2正則化ミニマムノルム解のベイズ的導出
4.6　EMアルゴリズムの汎関数を使った導出
問題

第5章　スパースベイズ推定
5.1　確率モデル
5.2　推定の定式化
5.3　周辺尤度関数の導出
5.4　ハイパーパラメータαの更新式
5.5　凹関数の性質を用いたアルゴリズム
5.6　どうしてスパースな解が得られるのかについての考察
問題

第6章　ベイズ因子分析
6.1　因子分析モデル
6.2　確率モデル
6.3　EMアルゴリズム
6.4　ベイズ因子分析：まとめ
問題

第7章　変分ベイズ法
7.1　変分近似による事後分布の導出
7.2　VBEMアルゴリズムの導出
7.3　VBEMアルゴリズム－スカラー変数の例
7.4　VBEMアルゴリズムL2正則化ミニマムノルム解への適用

第8章　変分ベイズ因子分析
8.1　混合行列に対する事前確率分布
8.2　VBEMアルゴリズム
8.3　自由エネルギーの計算式
8.4　変分ベイズ因子分析(VBFA)のまとめ
問題

第9章　ベイズ判別分析
9.1　フィシャーの線形判別
9.2　確率的な判別法
9.3　判別パラメータの最尤推定
9.4　スパースベイズ判別
問題

第10章　数値実験
10.1　海底電線の位置推定
10.2　時空間信号からのベイズ因子分析を用いたノイズ除去

付録　数学的補足

問題の解答

参考文献

索引

本記事のもくじはこちら：

書記の読書記録まとめ｜Writer_Rinka｜note