"サイコロ"を振ることができない人間

1. 「神はサイコロを振らない。」かつてアインシュタインが言ったとされる言葉だ。彼は量子力学においてその量子の観測が確率的に決定される、つまり観測前までは不確定であることに対して、懐疑的であった。彼の思想の中心には、この世界は確定的に動いている、またはそういった原理が必ず存在するという考え方があったのかもしれない。この"サイコロ"という表現はいわば確率的概念を象徴しているといって良いだろう。

2. STEM("Science, Technology, Engineering and Mathematics" )全盛時代に代表されるように、現代勃興している多くのテック企業は、科学技術に大きく依存している。特にインターネットの発達した先進国の社会を支えているのは、まさしく数学やコンピュータであるといって良いだろう。その中で現在特に注目されている技術は、いわゆるAIと呼ばれるような、機械学習や統計的操作を中心としたアルゴリズムである。

3. 現在のAIブームに火をつけた出来事は、おそらく2012年においてGoogleが発表した多層のニューラルネットワークを用いた画像認識でのブレイクスルーであろう。今日その発展はめざましく、そういった多層のニューラルネットワークを用いたCNN等の技術によるパターン認識を活用することによって、人間と同等もしくは人間を越えるほどの画像認識が可能となる場合も少なくない。さて、このようなAIのアルゴリズムにおいて、その中心にある概念はいったい何であろうか。それはまさしく、"確率"つまり"サイコロ"である。私たちは日常において、「これは猫である」と判断する際に、「これが猫である確率は96%である」というようにわざわざ確率的概念で示すことはほとんどないだろう。しかしながら、現在AIと呼ばれる技術に用いられているパターン認識の大部分がそのような確率的認識に基づいて"猫"であることを認識している。これはある意味でとても"自然"な認識ではあるが、人間における「日常」的な認識とは乖離しているように思える。つまり、主観的な認識というよりかは、どこか"客観的"な認識の様相を有する。数学的体系において扱えるのは、このような"客観的"な認識なのである。主観確率なる文字が付与されているベイズ的確率手法を用いたパターン認識においても、確率という概念を用いている時点で、どこか"客観的"な手法であるように思える。

4.  さて、"サイコロ"の話に戻ろう。現代先進国に生きる私たちは、"サイコロ"を自分の手に持っているといえるだろうか。コンピュータの場合は、"サイコロ"を持っているといえるだろう。なぜなら、コンピュータによって行われる機械学習的な認識の大部分が、その"サイコロ"でしか実現できないからである。今後、さらなるテクノロジーの発達によって、元来人間が持っていたであろう微かな"サイコロ"でさえも、コンピュータ等の統計的処理によって実現される「システム」、いわば機械に託されていくだろう。現在勃興している多層ニューラルネットワークを用いた技術の多くは、アルゴリズム内でなぜその重みをつけたのかを説明することが困難であり、その確率的認識は人間の観測結果に委ねられる。つまり、人間がそれらの重みを観測するまではブラックボックスなのである。このような、いわば非線形な現象に対して演繹的にパターン認識を行う技術は、今後さらに増えていくであろうが、その認識過程がブラックボックスである限り、人間がその観測を行うまでは重みの値を知ることができないであろう。これはまさに、人間の"サイコロ"、つまり人間の運命をAIが握ることと同義である。今後、もし仮にこのようなブラックボックスについて何も対策がなされないまま自動運転等に適用される場合、そこに乗っている人々の生死を「私」ではなく、AIが握ることになるであろう。たとえ自動運転車が99.99999%の確率で事故が起こらないとしてもである。

5. 自動運転車等の、人間の生死にかかわる可能性のあるアルゴリズムにおいて、ホワイトボックス的な解決がもしなされなかった場合、私たちは"サイコロ"を選択する必要に迫られるだろう。
つまり、もし仮に機械にその運転を任せた場合、
「事故が起こる確率は0.00001%であるが、いつ誰に起こるかわからない」
また一方で人間に任せた場合、
「事故が起こる確率は1%であるが、いつ誰に起こるかは人間に託される部分が存在する、もしくは人間によって予測できる可能性がある」
とすると、どちらを選ぶだろうか。

6. 人間の活動が確率的、つまり"サイコロ"に依存するということは、様々な機会において受動的に起こりうる。例えば、病気がいつ起こるかわからない、地震がいつ起こるかわからないなどがそれである。こういった"いつ起こるかわからないこと"を完全に機械に託す時代がいずれ来るのかもしれない。そのとき、機械はより自然化し、「人間」から離れていくのかもしれない。それを進歩と定義した「人間」によって。