計算論的神経科学 第4章-3

　「計算論的神経科学」（田中宏和）の第4章（p109〜）についてメモ書きする。第四章では観測を理論を用いて外界を最適に推定するための評価関数について説明されている。

確率密度を用いたカルマンフィルタの導出

　p109までに導出されたカルマンフィルタは誤差項の線形補正（K_{k+1}(z_{k+1}-H^x_{k+1|k})）を仮定した。この仮定抜きに導出を行う。ガウス分布を仮定すると状態変数及び確率変数の同時分布は確率密度関数を用いて式（4.53）となる（Σ_{xx} = matrix E[(x−µ_x)(x−µ_x)']）。expの中（指数関数の肩部分で）を式（4.55）のブロック行列の逆行列の公式を用いて整理すると式（4.54）となる。長くなるため詳しい計算過程は本noteには載せないが、このページを参考にすると良い。式（4.54）より観測値zが与えられたときのxの条件確率は転置されるところに着目して式（4.56）となる。式（4.57）より式（4.56）の平均は^x + Σ_{xz}(Σ_{zz})^(-1)(z-^z)=^x + K_{k+1}(z-^z)で分散はΣ_{xx} - Σ_{xz}(Σ_{zz})^(-1)Σ_{zx}=Σ_{k+1|k}-K_{k+1}HΣ_{k+1|k}(I-K_{k+1}H)Σ_{k+1|k}となり式（4.44）に一致した。

状況依存ノイズが含まれたカルマンゲイン

　観測方程式にノイズが含まれる場合において、観測方程式は状況変数に依存するノイズDx_kξ_kを含む（式(4.59)）。ξ（グザイ）は様々なパラメータに用いられる。誤差項も正規分布に従う場合カルマンゲインは式（4.61）となる（導出は本文に記載なし）。ここで、カルマンゲインは予測誤差を最小にするための係数行列であり、推定値^x_{k+1|k}が分布上の原点から離れるとカルマンゲイン（=状態に対する補正）は小さくなり、観測誤差による補正項の寄与も小さくなる。

脳でのカルマンフィルタの計算

　脳においてカルマンフィルタによる計算を行うには1) 自己の運動の結果を予測し、2) 予測と観測の誤差を計算する、2ステップを踏む必要がある。そのためには予測を行う内部順モデル、（事前の）状況を記述する共分散行列、誤差計算のための状況⇄観測の統計的計算、の3つの処理を行う必要がある。回転適応実験からもわかるように手首/腕の運動において運動学習には過去の運動履歴が反映され更新されており、最適推定による運動学習が十分に行動データを説明している。これより、小脳に限った話かはわからないが脳内に対応する神経計算があると考えられる。

カルマン平滑化

　カルマンフィルタは時刻kでの分布に対し次の時刻k+1での分布を推定した。一方、カルマン平滑化は時系列を逆向きに、すなわち未来の時刻Tまでの観測データ{z_{1:T}}が与えられたときの時刻kでの条件付き分布p(x_k|z_{1:T})を考える。著者はカルマン平滑化のアルゴリズムの一つであるラウチ-トゥン-ストリーベル（RTS）を紹介している。時刻k+1での分布p(x_{k+1}|Z_{1:T})に対しガウス分布を仮定し（式(4.62)）、平滑化の計算の順番としては1) 時刻k及びk+1でのxの同時分布を計算（時間前向き）し、次に2) x_{k+1}に関して積分してp{x_k|z_{1*T}}を求める（時間後ろ向き）。時刻kまでの同時分布は分散共分散行列（分散の概念を他次元確率変数に拡張して行列したもの、対角成分が分散を示す）を用いて式（4.63）で表すことができる。ここでzが与えられたときのxの条件確率の式（4.56）においてz=x_{k+1}で条件付き確率p(x_{k+1}|Z_{1:k})は式（4.64）と変形できる。先に述べた通りガウス分布を仮定しているからp(x_k|x_{k+1}, z_{1:T})はp(x_k|x_{k+1}, z_{1*k})でp(x_{k+1}, x_k | z_{1:T})（=z_{1:T}が得られた上でx_kとx_{k+1}が起こる確率）は式（4.65）のように計算できる（この辺の計算も条件付き確率に倣う）。また、これをx_{k+1}に関して積分することで周辺分布（式(4.66)）を得る。

ニューラルネットワークモデルによる最適推定

　パラメタsの感覚刺激に対してi番目の神経細胞がf_i(s)の平均発火率を持っているとする。単位時間あたり平均λ回起こるランダムなイベントが単位時間あたりにk回発生する確率をポアソン分布と呼び、
P(k)=e^(-λ)λ^k/k!
と表される。神経細胞がn_i個のスパイクを発する確率をポアソン分布で近似するとスパイク数の条件付き確率は式（4.68）で対数尤度関数（計算を簡単にするためのもの）は式（4.69）となる。読み出し神経細胞を考えw_{ki}という重み付けを導入してインプット/アウトプット関数は式（4.70）である。大量の読み出し神経細胞から最尤推定量を計算するため、r_kを最大にするk、すなわち活動が最大の神経細胞を探せばよく、その細胞が担当する感覚刺激が最尤推定値となる。このように、最尤法は単純なニューラルネットワークで計算可能であり、更にどの部位でどのような処理が行われているか、といった計算要素が分かれば神経活動に適合できるだろう。