統計準1級　第7章　極限定理、漸近理論　解説

この章の目的 : 確率変数がなんの分布が何に従うのか考え方を学ぶ

確率統計だと正規分布を勉強することが多いけど
「ほんまに確率変数$${X_n}$$は正規分布に従うのか？」
と疑問に思う人もいるかもしれない

実は$${X_n}$$がどんな確率分布に従ってても
標本平均$${\bar{X_{n}}}$$は
サンプルサイズ$${n}$$が大きくなれば、正規分布に従う

この例みたいに
確率変数がいったいなんの分布に従うのか
という考え方を学ぶのがこの章の目的である

また以下の例で共通して

$${X_n}$$は独立した確率変数で
$${E[X_n] = \mu,  V[X_n] = \sigma^2}$$とする

１　大数の弱法則

ひとことで言うと
「サンプル増やすと、標本平均は母平均に近づいてく」
と言うものだ

これを数式に表すと

$$
\bar{X_{n}} = \frac{1}{n} \Sigma_i^n X_i \rightarrow \mu  (n \rightarrow \infty)
$$

２　中心極限定理

ひとことで言うと
「サンプル増やすと、標本平均の分布は正規分布に近づいてく」
と言うものだ

これを数式に表すと

$$
\bar{X_{n}}  〜  N(\mu, \frac{\sigma^2}{n})   (n \rightarrow \infty)
$$

なので
$${\bar{X_{n}}}$$を$${\sqrt{n}({\bar{X_{n}} - \mu})}$$
にすると
平均は$${\mu}$$ずれて分散は$${\sqrt{n}^2}$$倍されるので

$$
\sqrt{n}({\bar{X_{n}} - \mu})  〜  N(0, \sigma^2)  (n \rightarrow \infty)
$$

３　デルタ法

ひとことで言うと
「標本平均の関数になっているものを標本平均に直して中心極限定理を使う方法」
と言うものだ

ここでいう標本平均の関数というものは$${f(\bar{X_n})}$$で
例えば$${\bar{X_n}^3}$$とかである

ここで$${f(\bar{X_n})}$$が連続微分可能であればテイラー展開できるので

$$
f(\bar{X_n}) = f(\mu) + f’(\mu)(\bar{X_n} - \mu) + \frac{1}{2!}  f’’(\mu) + (\bar{X_n} - \mu)^2 \cdots
$$

ここで$${(\bar{X_n} - \mu)}$$は小さい数なので
2次以上の項を0と近似すると

$$
f(\bar{X_n}) - f(\mu) \approx f’(\mu)(\bar{X_n} - \mu) 
$$

となる

例として統計学ワークブックの教科書の例題を取り上げると
$${f(\bar{X_n}) = \bar{X_n}^3}$$として
$${f(\mu) = \mu^3}$$とみなす

このとき$${f(x)=x^3}$$なので

$$
f(\bar{X_n}) - f(\mu) \approx f’(\mu)(\bar{X_n} - \mu) = 3\mu^2(\bar{X_n} - \mu)
$$

なので中心極限定理より

$$
\sqrt{n}({\bar{X_{n}^3} - \mu^3})  〜  N(0, (3\mu^2)^2\sigma^2)  (n \rightarrow \infty)
$$