AIの合理性は人間社会を救うのか(AI崩壊ネタバレ有)

※映画のネタバレがありますのでご注意ください。

前回までの投稿とは少し気色の違うエンターテイメントを題材にして書こうと思う。

元々僕はエンターテイメントには疎い。あまり映画も見ないし、特に最近のエンターテイメントはさっぱり。手に取ると言えば小説かゲーム(RPGは大好き)かマンガくらいだ。

なので劇場で映画を見ること自体けっこう珍しい。で、今日一年ぶりくらいに劇場にいって表題のAI崩壊を観賞してきた訳である。

キャストやストーリーの作りなんかの話は置いておく。僕はわりとなんでも見れば楽しめる人間なので、ご都合主義やいわゆる突っ込みどころなんかはあまり気にしない。

この映画は中々面白かった。特に僕が興味を惹かれたのは、作中で登場する医療AI「のぞみ」が暴走したことについてだ。

正確にいうと、ストーリー的には暴走自体に大きな意味はない。犯人の目的は、大量のビッグデータを処理できる医療AIのぞみに、人間の命を選別させることにあった。

犯人の動機は拡大する格差と弱者救済(つまるところ社会保障)で傾いた日本を救うため、生産性の高い人間のみを選別し、国を立て直すことにあった。そのための手段として合理的なAIに選別方法をメディアから学習させ、医療手段を逆手にとって実行させたわけである。動機そのものは凡庸ですらあるが、SFに絡めてこの手の社会問題に切り込んだのは素直に面白い。

AIが合理的な判断ができる、という部分に着目して話を進めよう。僕が思うに、合理的であることと論理的であることの違いを知らない人間があまりに多い。

そもそも合理的であることというのは、前提から結論を結び付けるプロセスに付けられる形容詞だ。対して論理的であるということは、前提条件の適切さと結論の合理性を表現する形容詞だと言える。

作中の話で例えると、医療AIは人間を選別する方法をネットや新聞記事、つまり世の中の思想的流れを表現するものから学んでいた。これは作中のAIがビッグデータ、つまり広い意味での統計処理から帰納法的に選別する前提を学んでいたことを意味する。

この社会の思想の流れを前提として合理的に人間を選別していくわけだ。しかし社会の思想の流れが、本当に人間の選別方法として適切なのかはAIには判断できない。学習するAIは合理的ではあるが論理的でない、と表現することができると言えるだろう。

犯人はこの前提から学習を出発させることで、AIに自分の望む合理的な判断をさせたわけである。何が言いたいかというと、(広い意味での)人間が前提条件をコントロールできる以上、AIの判断は客観的事実に基づくものではなく恣意的な(つまり我々人間と変わらない)判断になるということだ。

アメリカ映画ではAIが自我をもち反乱する、というストーリーのエンターテイメントが量産された時期がある。本作はその手前、つまり人間に操作されるAIを題材にしている映画だ。だからこそ、AIの論理性の欠如が浮き彫りになっているといっていい。

合理的な判断だけで人間が救えるのか、その答えは明らかにノーだ。我々はまず合理的な判断の前提を吟味しなくてはいけない。少し前のニュースでTwitterで学習したAIボットか何かがかなり差別的な内容のツイートを投稿したというとものがあったが、それも根底は同じだと思う。

今後AIが様々な形で社会に浸透していくことは間違いない。だからこそ我々は、AIが導きだす結論の前提をこそ吟味しなければならない。それができなければ、我々はAIに支配される前に、AIを権力として使う人間に支配されることになるだろう。