「AIゆりこ」について

東京都知事の小池百合子氏が、「AIゆりこ」というコンテンツを、公式SNSで発信している。

これについては色々と考えるべきことがあるけど、さしあたり指摘するべきこととしては、欧州を中心にAIの倫理的課題を指摘され、包括的な指針の策定が進められている中で、こうしたコンテンツを政治家が発信するのはいささか不用意である、ということだ。

しばしばAIは人間の責任の領域を曖昧にするとして批判される。そもそも責任（responsibility）という概念は、国民に対する政治家の説明責任として形成された概念である。その政治家が自らの主張をAIに委ねているなら、それは無責任であるという誹りを免れないように思える。

たとえばAIゆりこは、AIゆりこが東京都の税金ではないことを、自ら弁明している。

しかし、AIゆりこが東京都の税金ではないと弁明しているのは、AIゆりこである。ではこの発言の責任は誰が負うのだろうか。AIゆりこの発言が、すべてAIによって生成されたものなら、この弁明が事実である保証などない。そして、この弁明が事実ではなかったとき、小池百合子氏はその責任を負うのだろうか。それとも、「AIはあくまでもアルゴリズムによって生成された文章を発信しているだけであって、それが客観的な事実であることを保証するわけではない」と、さらなる弁明を重ねるのだろうか（こうした弁明はやはり無責任である）。

少なくとも小池百合子氏は、AIゆりこが、どの部分にAIを利用したものなのかを、説明する責任を負っているだろう。それが、映像の生成や音声の生成に留まるのか、それとも発言している内容までAIに生成させているのかで、このコンテンツに対する評価はまったく変わってしまう。もしもその内容までAIに生成させているのなら、AIゆりこは「小池ゆりこが言いそうなこと」や、「都知事選で言えば勝てそうなこと」を言っているだけであって、政治家としての小池百合子氏の信念とはまったく無関係なことを発信しているに過ぎない。

こういうコンテンツを見て「スゲー！！」とか「世の中前進している」と思うのは日本的テクノクラシーの発露でしかない。バキバキのスマートな悪である。