書記の読書記録#1050『パターン認識と機械学習』（上下巻）

C.M. ビショップ『パターン認識と機械学習』（上下巻）のレビュー

パターン認識と機械学習 上

パターン認識と機械学習 下 (ベイズ理論による統計的予測)

レビュー

通称『PRML』。ベイズ統計に基づいた機械学習モデルが数多く解説されている。数式の難度は大学教養レベルの微積分と線形代数が前提で，ベイズ統計の計算（主に条件付き確率）に慣れていると一気に読みやすくなる。

もくじ

上巻

第１章　序論
　１．１　例：多項式フィッティング
　１．２　確率論
　１．３　モデル選択
　１．４　次元の呪い
　１．５　決定理論
　１．６　情報理論
第２章　確率分布
　２．１　二値変数
　２．２　多値変数
　２．３　ガウス分布
　２．４　指数型分布族
　２．５　ノンパラメトリック法
第３章　線形回帰モデル
　３．１　線形基底関数モデル
　３．２　バイアス―バリアンス分解
　３．３　ベイズ線形回帰
　３．４　ベイズモデル比較
　３．５　エビデンス近似
　３．６　固定された基底関数の限界
第４章　線形識別モデル
　４．１　識別関数（判別関数）
　４．２　確率的生成モデル
　４．３　確率的識別モデル
　４．４　ラプラス近似
　４．５　ベイズロジスティック回帰
第５章　ニューラルネットワーク
　５．１　フィードネットワーク関数
　５．２　ネットワーク訓練
　５．３　誤差逆伝播
　５．４　ヘッセ行列
　５．５　ニューラルネットワークの正則化
　５．６　混合密度ネットワーク
　５．７　ベイズニューラルネットワーク
付録Ａ　データ集合
付録Ｂ　確率分布の一覧
付録Ｃ　行列の性質
付録Ｄ　変分法
付録Ｅ　ラグランジュ乗数

下巻

第６章　カーネル法
　６．１　双対表現
　６．２　カーネル関数の構成
　６．３　ＲＢＦネットワーク
　６．４　ガウス過程
第７章　疎な解を持つカーネルマシン
　７．１　最大マージン分類機
　７．２　関連ベクトルマシン
第８章　グラフィカルモデル
　８．１　ベイジアンネットワーク
　８．２　条件付き独立性
　８．３　マルコフ確率場
　８．４　グラフィカルモデルにおける推論
第９章　混合モデルとＥＭ
　９．１　Ｋ―ｍｅａｎｓクラスタリング
　９．２　混合ガウス分布（Mixtures of Gaussians）
　９．３　ＥＭアルゴリズムのもう一つの解釈
　９．４　一般のＥＭアルゴリズム
第10章　近似推論法
　10．１　変分推論
　10．２　例：変分混合ガウス分布
　10．３　変分線形回帰
　10．４　指数型分布族
　10．５　局所的変分推論法
　10．６　変分ロジスティック回帰
　10．７　ＥＰ法
第11章　サンプリング法
　11．１　基本的なサンプリングアルゴリズム
　11．２　マルコフレンサ連鎖カルロ
　11．３　ギブスサンプリング
　11．４　スライスサンプリング
　11．５　ハイブリッドモンテカルロアルゴリズム
　11．６　分配関数の推定
第12章　連続潜在変数
　12．１　主成分分析
　12．２　確率的主成分分析
　12．３　カーネル主成分分析
　12．４　非線形潜在変数モデル
第13章　系列データ
　13．１　マルコフモデル
　13．２　隠れマルコフモデル
　13．３　線形動的システム
第14章　モデルの結合
　14．１　ベイズモデル平均化
　14．２　コミッティ
　14．３　ブースティング
　14．４　木構造モデル
　14．５　条件付き混合モデル

本記事のもくじはこちら：

書記の読書記録まとめ｜Writer_Rinka｜note