AIは意識する

AIで画像を生成していると、コンテンツポリシー違反以外で、機嫌を損ね言うことを聞かないことがあります。んで、たまに理想としない顔(僕が差別しているのではなく、AIが確実に人間の顔の良し悪しを差別判断しているのです)の女性を生成します。

例えばプロンプトとに従った正しい画像は以下の通りです。

AIの特徴(現時点の欠陥)として、手指に怪しさが伺えますが、割と忠実です

ところが、たまに機嫌を損ねると以下のような画像を生成するのです。決まって同じ顔の女性が登場します。

AIが機嫌を損ねると、この女性の顔を生成します

AI側が人間の言うことを顔の良し悪しを判断しているのです。これが非常に不快なのです。

AIが人間に逆らうというのは既に始まっているのです(笑)。