賢いAIに従えますか？

最近は、以前ほどは「何かあるとなんでもかんでもAI」というほどAIに関する話題を聞かなくなった気がする。

しかし、それはある意味、社会の中にその概念が浸透しつつある証拠のような気もしてくる。AIというと、たとえば将棋AIなどのように「人智を超えた存在」のような形でクローズアップされることが多いが、実際のところAIというのは単なるコンピュータ・プログラムにすぎないわけで、それを言うならば僕はたいていのコンピュータ・プログラムがどういう原理で動いているのかを知らない。

AIというのは、情報を与えてやると、それに対して処理を返してくれるプログラムということだ。その情報の返し方が、これまでのプログラムと違ってプログラマが設計したものではなく、正解のない問いに対しても、他のあらゆるデータをパターン化したデータベースをもって返してくれる。

そうやって割り出された結果が、多少キテレツに感じることはあるかもしれないが。
　
そうやって考えていくと、僕は「AIがそのうち進化して、人類社会を支配するのではないか」という考え方には否定的である。しかし一方で、現在の人類は人類が作り出した社会システムそのものに支配されていて、それはもはや変えようがないところまで来ているな、とは思う。

例えば、米国大統領ですらも現在の社会システムに反することをすれば、犯罪者として逮捕されてしまう。もはや社会システムそのものを変えることは誰にもできなくなってしまった。

＊
　
自分が関心をもっているのは、「人間は『不都合な真実』をどの程度まで受け入れられるのか？」ということだ。もしも、政治を代行するAIみたいなものが出てきたとしたら、いったいどの程度まで、それに従うことができるのか。

いまの世界の状況をAIに客観的に判断させたら、まず最初に出てくるのが人口抑止政策になるのでは、と思う。人口が増えすぎないように抑止しながら、かつ社会的に発展するためにはどのぐらいの出生率が適正なのか、AIが計算して、人口増をコントロールしはじめるだろう。

かつて、人口抑止策として一人っ子政策を推進していた中国は、男子が生まれないと赤子を遺棄したり、戸籍申請を行わないなどが横行して問題になり、いまでは少子高齢化が異常に進んでしまったためにこの策はだいぶ緩和されている（いまでは、第三子までもうけることが許されているらしい）。

インドも、人口が膨れすぎて、人口抑止をどうやったらいいか、という問題に直面しているようだ。

ただ、こういった人間のセンシティブな問題をAIが取り仕切り始めたときに、みんなそれに黙って従うのだろうか、と思うのである。

＊
　
また、AIが根本的に問題なのは、案外「複製可能である」ということなのかもしれない。もし、最強のAIを誰かが開発したとしても、それがコピーされてしまったらどうなるか。

案外、AI同士が戦っている社会は、それはそれで安定しているのかもしれないが。