「大数の法則」をわかりやすく（その２）

今回は大数の法則を考える上で必要な”近づき方”を見てみましょう。

この記事の対象としているのは次のような方々です。

〇大数の法則自体は知っていて、数学的背景も知ってみたい方
〇機械学習やデータサイエンスを使う方で数学への興味が強い方
〇シンプルに興味がある方

この記事以降では純粋数学初心者の方でも可能な限りきちんと数学的に理解していただけるよう努力しています。

ですので、純粋数学とはこういうものというイメージが無い方には最初は難しく感じるかもしれません。

はっきりいって応用で使うだけならここまで知る必要はないというところにも必要があれば踏み込むつもりです。

それでも数学的な背景を知っていることは技術者にとっては安心感の源になるだろうという信念のもと、少しでも数学の知識を分かりやすく共有していければと思っています。

全てを理解している必要はありません。（どんな偉大な数学者でもそれは無理です）大切なのはどこまで分かっていてどこから分かっていないのかを自分で分かっていることです。

また、とりあえず大数の法則を思い出したいぞという方は、（その１）をぜひご覧ください。

大数の法則に必要な２つの収束

今回は大数の法則のステートメントを述べる前に、２つの非常に重要な収束概念を確かめたいと思います。

というのも、（その１）で確認したように大数の法則というのは、

標本平均が真の分布の平均に近づく

ということを主張した定理です。そこで思いっきり大切になるのが、

どういう意味で近づくの？

という点です。

単に近づくといってもいろいろな近づき方があります。そして、当然ながらできるだけわかりやすく使いやすい意味で近づいてほしいわけです。

それでは見ていきますが、ここでは２つの収束を見ていきます。

１．確率収束

２．ほとんど確実に収束　　　（a.s.収束 : a.s.=almost surely）

実はこの２つとてもよく似ているんですが、決定的に違います。（どっちだという感じですね）

それでは、まずは”似ている感じ”をつかんでもらうために定義を確認しましょう。（難しいんで最初は眺めたら飛ばしてください）

これだけ並べられても意味不明だと思うので説明します。

実は，ほとんど確実に収束の方がイメージがつかみやすいと思うのでこちらの例から行きましょう．

こういう感じです。確率変数の解説のときに、コルモゴロフが確率とは面積だと考えることを思いついたという話をしました。

ここでもそのアイデアが本質的に重要です。

ほとんど確実に収束とは、

X_nがXに近づいていかないという事象が起こる確率（＝面積）が０だ（でも面積0ならそういう事象が存在してもよい）

と言ってるんですね。これを聞くとほとんど確実にという言葉の意味が分かってもらえそうです。

また上の例を応用すると、X_nがXに近づいていかない点が可算無限個しかないときはほとんど確実に収束しているといえます。

もう一つとても大切な事実として、ほとんど確実に収束しているならば必ず確率収束しています。（※Fatouの補題と確率測度の有限性から示せます）

ということで、同じ例で確率収束の様子も見られるのでこの調子で確率収束していることを見てみましょう。

要するに、確率収束するというのは、

X_nとXの差がεをこえる事象が起こる確率（＝面積）がn→∞とすることでいくらでも小さくできる。

ということです。

ざっくり言うと、

確率収束　――　X_nとXがずれる場所が少なくなっていく。

a.s.収束　——　X_nとXがずれそのもがほとんどの場所でなくなっていく。

という感じ。両方ともX_nとXのずれに関して言及しているのですが、前者はずれている場所に、後者はずれそのものに言及しているという点でことなっています。

そして、確率収束しているからといってa.s.収束しているとは限りません。

つまり、a.s.収束の方が強い収束です。そして、上の例で見た通りa.s.収束の方がイメージが掴みやすく、すなわち直感的に扱いやすいです。

そのうえ、a.s.収束の方が数学的にも扱いやすいです。

さて、これで大数の法則の道具立てがそろいました。これからの流れをざっと説明すると、

大数の法則​を証明したい
↓
簡単な証明方法では確率収束でしか近づくと言えない
↓
扱いやすいa.s.収束で証明したい
↓
測度論（確率を面積ととらえること）が大活躍
↓
大数の法則をa.s.収束の意味で証明できる！

という風になります。

なかなか大数の法則にたどり着けませんね。思ったより収束の説明が長くなってしまいました。しかし、これで本当にいよいよ大数の法則を述べる準備が整いました。

次回こそは大数の法則を見てみましょう！（前回も同じようなこと言ってたのにすみません！）

＜＜前回

＞＞次回

少々お待ちください。