Stein の補題（正規分布の特徴づけ）

Stein の補題（正規分布の特徴づけ）
 
部分積分をおこなうと
$${\int\limits_{-\infty }^{\infty }{f'\left( x \right){{e}^{-\frac{{{x}^{2}}}{2}}}}dx=\left. f\left( x \right){{e}^{-\frac{{{x}^{2}}}{2}}} \right|_{-\infty }^{\infty }+\int\limits_{-\infty }^{\infty }{xf\left( x \right){{e}^{-\frac{{{x}^{2}}}{2}}}}dx}$$
ができるが、右辺の最初の項が０に収束するなら、
$${\int\limits_{-\infty }^{\infty }{f'\left( x \right){{e}^{-\frac{{{x}^{2}}}{2}}}}dx-\int\limits_{-\infty }^{\infty }{xf\left( x \right){{e}^{-\frac{{{x}^{2}}}{2}}}}dx=0}$$
が得られる。これは、
$${P\left( X\le t \right)=\frac{1}{\sqrt{2\pi }}\int\limits_{-\infty }^{t}{{{e}^{-\frac{{{x}^{2}}}{2}}}}dx=\Phi \left( t \right)}$$
をみたす確率変数$${X}$$ について、
$${E\left[ f'\left( X \right)-Xf\left( X \right) \right]=0}$$ を意味している。Stein の補題はこの逆で、
ある確率変数$${W}$$ について、
$${E\left[ f'\left( W \right)-Wf\left( W \right) \right]=0}$$
が任意の微分可能な関数$${f}$$ についてなりたつなら、$${W}$$ は標準正規分布に従う
というものである。たとえば、

 $${{{f}_{t}}\left( w \right)=\sqrt{2\pi }{{e}^{\frac{{{w}^{2}}}{2}}}\times}$$

$$
\left. \begin{cases}& \Phi \left( w \right)\left( 1-\Phi \left( t \right) \right),w\le t \\& \Phi \left( t \right)\left( 1-\Phi \left( w \right) \right),w > t \\\end{cases} \right.
$$

とおくと $${f_{t}^{'}\left( w \right)=\frac{d{{f}_{t}}\left( w \right)}{dw}}$$ として、

$${f_{t}^{'}\left( w \right)=w{{f}_{t}}\left( w \right)+\sqrt{2\pi }{{e}^{\frac{{{w}^{2}}}{2}}}\times}$$

$$
\left. \begin{cases}
& {{\Phi }^{'}}\left( w \right)\left( 1-\Phi \left( t \right) \right),w \le t \\
& \left( -{{\Phi }^{'}}\left( w \right) \right)\Phi \left( t \right),w > t \\
\end{cases} \right.
$$

$${\sqrt{2\pi }{{e}^{\frac{{{w}^{2}}}{2}}}{{\Phi }^{'}}\left( w \right)=1}$$であるから

$${f_{t}^{'}\left( w \right)-w{{f}_{t}}\left( w \right)=}$$

$$
\left.\begin{cases}& \left( 1-\Phi \left( t \right) \right),w \le t \\& \left( -1 \right)\Phi \left( t \right), w > t \\\end{cases} \right.
$$

が導かれる。
確率変数$${W}$$の分布関数を$${F\left( w \right)}$$とすると
 
$${E\left[ {{f}_{t}}'\left( X \right)-X{{f}_{t}}\left( X \right) \right]=\int\limits_{-\infty }^{\infty }{\left( f_{t}^{'}\left( w \right)-w{{f}_{t}}\left( w \right) \right)}dF\left( w \right)}$$
$${=\left( 1-\Phi \left( t \right) \right)\int\limits_{-\infty }^{t}{dF\left( w \right)-\Phi \left( t \right)\int\limits_{t}^{\infty }{dF\left( w \right)}}}$$
$${=F\left( t \right)-\Phi \left( t \right)}$$
となる。したがって、$${f={{f}_{t}}}$$ とおけば
$${E\left[ f'\left( X \right)-Xf\left( X \right) \right]=0}$$$${\Rightarrow F\left( t \right)=\Phi \left( t \right)}$$
すなわち、Stein の補題が証明される。
 
考察１）
いまは天下り的に述べたが、Stein のオリジナルのやりかたは、最初に微分方程式
 $${f_{t}^{'}\left( w \right)-w{{f}_{t}}\left( w \right)=}$$

$$
\left.\begin{cases}& \left( 1-\Phi \left( t \right) \right),w \le t \\& \left( -1 \right)\Phi \left( t \right), w > t \\\end{cases} \right.
$$

を考え、これがユニークな解をもつための条件、たとえば、$${\sup \left| f' \right|<\infty }$$という制限をおき、解$${{{f}_{t}}\left( w \right)}$$ を特定するという道筋を取っている。

考察２）中心極限定理の応用として、Berry-Essenの定理をつかい、$${\left\{ {{X}_{j}} \right\}_{j=1}^{n}}$$を
i.i,d.で$${E\left[ {{X}_{j}} \right]=0,E\left[ X_{j}^{2} \right]=1}$$ なる確率変数列として$${W=\frac{1}{\sqrt{n}}\sum\limits_{j=1}^{n}{{{X}_{j}}}}$$とおいて、
Stein の補題の証明過程で得た式を使い
$${E\left[ {{f}_{t}}'\left( W \right)-W{{f}_{t}}\left( W \right) \right]\le \frac{3}{\sqrt{n}}E\left[ {{\left| {{X}_{j}} \right|}^{3}} \right]}$$がすべての$${t\in \mathbb{R}}$$ で成り立つなどを示すことができる。