![見出し画像](https://assets.st-note.com/production/uploads/images/126884270/rectangle_large_type_2_cfe5030a0b8e5653693d609bb5fe66ec.png?width=1200)
モーメントが満たす関係式
abstract モーメントが満たす関係式を紹介し、これを用いて正規分布とPoisson分布の場合にいくつかのモーメントを具体的に求めます。また標準正規分布については、より直接的にモーメントを計算する方法を紹介します。
1 Introduction
確率変数 $${X}$$ の $${k}$$ 乗の期待値 $${m_{k}=\mathbb{E}[X^k]}$$ は $${k}$$ 次モーメントとよばれ、$${X}$$ が従う確率変数の様々な情報を持っています。例えば、1次モーメントは期待値 $${\mathbb{E}[X]}$$ そのものです。分散 $${\mathbb{V}[X]}$$ は1次モーメントと2次モーメントを用いて
$$
\begin{align*}
\mathbb{V}[X] &= \mathbb{E}[X^2] - \mathbb{E}[X]^2
\end{align*}
$$
と表すことができます。これは分散の公式とよばれるものです。
そこでこのnoteでは、正規分布やPoisson分布のモーメントを5次まで求めます。また便利な公式として、モーメント $${m_0,m_1,m_2,\cdots}$$ が満たす関係式を紹介します。
2 モーメントが満たす関係式
確率変数 $${X}$$ の $${k=1,2,3,\cdots}$$ 次モーメント $${m_k=\mathbb{E}[X^k]}$$ が存在する場合に、その値を求める問題を考えましょう。以下では、特にモーメント母関数 $${M_{X}(t)}$$ が存在し、以下のように表すとします。
$$
\begin{align*}
M_{X}(t) &= \exp\left(d(t)\right)
\end{align*}
$$
なお、$${d(t)}$$ はキュムラント母関数とよばれています。このとき、モーメントの間には以下のような関係式が成り立ちます。ただし、$${m_0=\mathbb{E}[1]=1}$$ です。
定理 $${\displaystyle m_k=\sum_{i=0}^{k-1}{}_{k-1}C_{i}d^{(i+1)}(0)m_{k-i-1}}$$
第3節ではこの定理の証明を、第4節ではこの定理の応用を紹介します。
3 証明
モーメントは、モーメント母関数 $${M_{X}(t)}$$ の $${t=0}$$ における微分係数になっているのでした。具体的には以下の通りです。
$$
\begin{align*}
m_{k} &= \frac{d^{k}M_{X}}{dt^{k}}(0)
\end{align*}
$$
つまり、以下の等式を変数 $${k}$$ に関する数学的帰納法で証明すれば十分です。
$$
\begin{align*}
M^{(k)}_{X}(t) &= \sum_{i=0}^{k-1}{}_{k-1}C_{i}d^{(i+1)}(t)M^{(k-i-1)}_{X}(t)
\end{align*}
$$
$${k=1}$$ の場合には直接、モーメント母関数の微分を計算することで示せます。
$$
\begin{align*}
M_{X}'(t) = d'(t)\exp(d(t)) = d'(t)M_{X}(t)
\end{align*}
$$
あとは $${k=j-1}$$ の場合に正しいと仮定して、$${k=j}$$ の場合を示します。
$$
\begin{align*}
&M^{(j)}_{X}(t)\\
&= \left(M^{(j-1)}_{X}(t)\right)'\\
&= \sum_{i=0}^{j-2}{}_{j-2}C_{i}d^{(i+2)}(t)M^{(j-i-2)}_{X}(t) + \sum_{i=0}^{j-2}{}_{j-2}C_{i}d^{(i+1)}(t)M^{(j-i-1)}_{X}(t)\\
&= \sum_{i'=1}^{j-1}{}_{j-2}C_{i'-1}d^{(i'+1)}(t)M^{(j-i'-1)}_{X}(t) + \sum_{i=0}^{j-2}{}_{j-2}C_{i}d^{(i+1)}(t)M^{(j-i-1)}_{X}(t)\\
&= \sum_{i=0}^{j-2}\left({}_{j-2}C_{i-1}+{}_{j-2}C_{i}\right)d^{(i+1)}(t)M^{(j-i-1)}_{X}(t)
\end{align*}
$$
あとは、Pascalの三角形の性質として有名な等式 $${{}_{j-2}C_{i-1}+{}_{j-2}C_{i}={}_{j-1}C_{i}}$$ に注意すれば、所望の等式が得られます。
$$
\begin{align*}
M^{(j)}_{X}(t) &= \sum_{i=0}^{j-2}{}_{j-1}C_{i}d^{(i+1)}(t)M^{(j-i-1)}_{X}(t)
\end{align*}
$$
以上で定理を証明できました。
Remark 最後の式変形の5行めで $${{}_{j-2}C_{-1}={}_{j-2}C_{j-1}=0}$$ としました。このように設定してもPascal三角形の性質として有名な等式 $${{}_{j-2}C_{i-1}+{}_{j-2}C_{i}={}_{j-1}C_{i}}$$ は、依然
$$
\begin{align*}
{}_{j-2}C_{-1}+{}_{j-2}C_{0}&=0+1=1={}_{j-1}C_{0}\\
{}_{j-2}C_{j-2}+{}_{j-2}C_{j-1}&=1+0=1={}_{j-1}C_{j-1}\\
\end{align*}
$$
のように成立するため、問題ありません。■
4 応用
第2節で紹介したモーメントが満たす関係式を用いて、正規分布のモーメントとPoisson分布のモーメントを求めてみましょう。
4.1 正規分布の場合
正規分布の場合には、3つのモーメント $${m_{k}, m_{k-1}, m_{k-2}}$$ の間に成り立つ漸化式を導出することができます。導出するための準備として、正規分布のモーメント母関数を掲げます。
補題 正規分布 $${N(\mu,\sigma^2)}$$ のモーメント母関数は $${M_{X}(t)=\displaystyle\exp\left[\mu t+\frac{1}{2}\sigma^2t^2\right]}$$ です。特に、$${d(t)=\displaystyle\mu t+\frac{1}{2}\sigma^2t^2}$$ になります。
証明 実際、以下のように計算できます。
$$
\begin{align*}
&M_{X}(t)\\
&= \mathbb{E}\left[\exp(tX)\right]\\
&= \frac{1}{\sqrt{2\pi\sigma^2}}\int_{-\infty}^{\infty}\exp(tx)\exp\left[-\frac{(x-\mu)^2}{2\sigma^2}\right]dx\\
&= \frac{1}{\sqrt{2\pi\sigma^2}}\int_{-\infty}^{\infty}\exp\left[-\frac{x^2-2(\mu+\sigma^2 t) x+\mu^2}{2\sigma^2}\right]dx\\
&= \frac{1}{\sqrt{2\pi\sigma^2}}\int_{-\infty}^{\infty}\exp\left[-\frac{1}{2\sigma^2}\left\{x-(\mu+\sigma^2 t)\right\}^2\right]dx\times\exp\left[\mu t+\frac{1}{2}\sigma^2t^2\right]\\
&= \exp\left[\mu t+\frac{1}{2}\sigma^2t^2\right]
\end{align*}
$$
5行めに正規分布 $${N(\mu+\sigma^2t, \sigma^2)}$$ の確率密度関数の積分が $${1}$$ に等しいことを用いています。以上で証明できました。■
この結果と第2節で紹介したモーメントが満たす関係式を組み合わてみましょう。すると、正規分布のモーメントには以下のような漸化式が成り立つことがわかります。
定理 正規分布 $${N(\mu, \sigma^2)}$$ の $${k}$$ 次モーメント $${m_k}$$ には以下の漸化式が成り立ちます。
$$
\begin{align*}
m_{k} &= \mu m_{k-1} + (k-1)\sigma^2m_{k-2}
\end{align*}
$$
特に $${m_0=\mathbb{E}[1]=1, m_1=\mathbb{E}[X]=\mu}$$ です。
証明 $${d(t)=\displaystyle\mu t+\frac{1}{2}\sigma^2t^2}$$ を微分すると、以下のようになります。
$$
\begin{align*}
d'(t) = \mu+\sigma^2 t,\quad d''(t) = \sigma^2\end{align*}
$$
また $${k\geq 3}$$ の場合には $${d^{(k)}(t) = 0}$$ です。このことから、第2節で紹介したモーメントが満たす関係式は $${i=0, 1}$$ の場合しか考える必要がなく
$$
\begin{align*}
m_{k} &= {}_{k-1}C_{0}d'(0)m_{k-1} + {}_{k-1}C_{1}d''(0)m_{k-2}\\
&= \mu m_{k-1} + (k-1)\sigma^2m_{k-2}\\
\end{align*}
$$
が従います。■
この定理を用いて、正規分布の5次モーメントまでを求めてみましょう。
$$
\begin{align*}
m_{1} &= \mu\\
m_{2} &= \mu^2+\sigma^2\\
m_{3} &= \mu^3+3\mu\sigma^2\\
m_{4} &= \mu^4+6\mu^2\sigma^2+3\sigma^4\\
m_{5} &= \mu^5+10\mu^3\sigma^2+15\mu\sigma^4
\end{align*}
$$
4.2 Poisson分布の場合
Poisson分布の場合には、正規分布とは異なりモーメント間の漸化式を得ることはできませんが、それでも比較的整った形が現れます。準備として、Poisson分布のモーメント母関数を掲げます。
補題 Poisson分布 $${Po(\lambda)}$$ のモーメント母関数は $${M_{X}(t)=\displaystyle\exp\left[\lambda\left(e^t-1\right)\right]}$$ です。特に、$${d(t)=\lambda(e^t-1)}$$ になります。
証明 実際、以下のように計算できます。
$$
\begin{align*}
M_{X}(t) &= \mathbb{E}[\exp(tX)]\\
&= \sum_{x=0}^{\infty}e^{tx}\exp(-\lambda)\frac{\lambda^x}{x!}\\
&= \exp\lambda\sum_{x=0}^{\infty}\frac{(\lambda e^t)^x}{x!}\\
&= \exp(-\lambda)\exp\left(\lambda e^t\right)\\
&= \exp\left[\lambda(e^t-1)\right]
\end{align*}
$$
ここで、3行めから4行めへの式変形では指数関数 $${\exp s}$$ の $${s=0}$$ まわりでのTaylor展開
$$
\begin{align*}
\exp s &= \sum_{x=0}^{\infty}\frac{s^x}{x!}
\end{align*}
$$
に $${s=\lambda e^t}$$ を代入することで得られる等式を用いました。■
この結果と第2節で紹介したモーメントが満たす関係式を組み合わてみましょう。すると、Poisson分布のモーメントには以下のような関係式が成り立つことがわかります。
定理 Poisson分布 $${Po(\lambda)}$$ の $${k}$$ 次モーメント $${m_k}$$ には以下の関係式が成り立ちます。
$$
\begin{align*}
m_{k} &= \lambda\sum_{i=0}^{k-1}{}_{k-1}C_{i}m_{i}
\end{align*}
$$
証明 $${d(t)=\lambda(e^t-1)}$$ を微分すると、どんな正の整数 $${k}$$ に対しても $${d^{(k)}(t)=\lambda e^t}$$ が成り立ちます。これを第2節で紹介したモーメントが満たす関係式に代入すれば、
$$
\begin{align*}
m_{k} &= \lambda\sum_{i=0}^{k-1}{}_{k-1}C_{i}m_{k-i-1}
\end{align*}
$$
が得られます。■
この定理および $${m_{0}=\mathbb{E}[1]=1}$$ を用いて、Poisson分布の5次モーメントまでを求めてみましょう。
$$
\begin{align*}
m_{1} &= \lambda\\
m_{2} &= \lambda^2+\lambda\\
m_{3} &= \lambda^3+3\lambda^2+\lambda\\
m_{4} &= \lambda^4+6\lambda^3+7\lambda^2+\lambda\\
m_{5} &= \lambda^5+10\lambda^4+25\lambda^3+15\lambda^2+\lambda
\end{align*}
$$
Remark Poisson分布の $${k}$$ 次モーメント $${m_{k}}$$ の式は、Touchard多項式 $${T_{k}(\lambda)}$$ として知られているものに一致します。■
Appendix 標準正規分布のモーメント
4.1節の結果を用いれば、標準正規分布のモーメントを簡単に求めることができます。実際、モーメントの間に成り立つ漸化式は
$$
\begin{align*}
m_{k} &= (k-1)m_{k-2}
\end{align*}
$$
と単純になります。ここに $${m_{0}=1, m_{1}=0}$$ を代入すれば、正の整数 $${k}$$ に対して以下の結果が得られます。
$$
\begin{align*}
m_{k} &= \begin{cases}0&k\text{: 奇数}\\(k-1)!!&k\text{: 偶数}\end{cases}
\end{align*}
$$
ただし標準正規分布の場合には、モーメント母関数と指数関数 $${\exp s}$$ の $${s=0}$$ まわりのTaylor展開から直ちにモーメントを求められることを指摘しておきます。実際、
$$
\begin{align*}
M_{X}(t) &= \exp\left(\frac{1}{2}t^2\right)\\
&= \sum_{x=0}^{\infty}\displaystyle\frac{1}{x!}\left(\frac{1}{2}t^2\right)^x\\
&= \sum_{x=0}^{\infty}\displaystyle\frac{1}{2^x}\frac{t^{2x}}{x!}
\end{align*}
$$
とモーメント母関数が $${\displaystyle M_{X}(t)=\sum_{k=0}^{\infty}\frac{1}{k!}\mathbb{E}[X^k]t^k}$$ と表せる事実を比較してみましょう。すると、$${k}$$ が奇数の場合には $${k}$$ 次モーメントが $${m_k=0}$$ になることがわかります。また、$${k}$$ が偶数の場合にも
$$
\begin{align*}
m_{k} = \frac{k!}{2^{k/2}(k/2)!} = \frac{k\times(k-1)\times\cdots\times2\times1}{k\times(k-2)\times\cdots\times4\times2} = (k-1)!!
\end{align*}
$$
が得られます。
Acknowledgement
日頃からサポートしていただいている方々、株式会社すうがくぶんかの皆さんに感謝申し上げます。
サポートをいただいた場合、新たに記事を書く際に勉強する書籍や筆記用具などを買うお金に使おうと思いますm(_ _)m