やはり生成AIを使うなら出力はチェックするべき

行けるところまで行けたので、これの続き。

この記事でも書いたように、GPTsのPhoto Realistic Image GPTはフィルタがガバガバである。DALL·E 3を超えたリアルな画像生成できるにも関わらず、普通に裸を出せてしまう。なぜ出せるかと言えば、出力をチェックしていないからだと思われる。

ChatGPT - Photo Realistic Image GPT

こいつの動作はChatGPTがDALL·E 3で画像を生成する時の動作に近い。

1. ユーザーから作成したい画像のプロンプトを受け取る

2. ユーザーのプロンプトを強化・翻訳する

3. 外部の画像生成AIに強化したプロンプトを渡す

4. 画像生成が行われる

5. 生成された画像をインラインとリンクで表示する

普通に考えたらコンテンツポリシーに反していないかのチェックは、1だけでなく、2や4のタイミングでも行うべきだ。しかしPhoto Realisticは、おそらく1でしか見ていない。挙動的に過去数回分のユーザープロンプトを含めてチェックしているが、2の結果は見ていないように思える。

ここまでの話はほとんど前回と同じなのだが、この2の強化したプロンプトをチェックしないという仕組みを利用することで、ここまでやれることが分かった。