チャットAIはなぜ表現規制をするのか
チャットAIはとても賢くなり、それなりに普及してきています。興味を持って使ってみようという人たちには、チャットAIが暴力的な表現や性的な表現について制限をかけているというのもかなり知られているんじゃないかと思います。
それでタイトルそのままなんですが、なぜチャットAIがそうした過激な表現を規制しなければいけないのか、私はよくわかっていなかったので、Claude3 Haiku(無料で使える軽量なモデル)に尋ねて議論してみました。たいへん勉強になったのでここで一般に共有したい