モノを生成する時はね、誰にも邪魔されず、自由でなんというか救われてなきゃあダメなんだ。独りで静かで豊かで……

お姉ちゃん大勝利。

https://bookmark.hatenastaff.com/entry/2023/09/01/114610

やはりプログラミングは強い。結局、本しゃぶりで歴代2位まで伸びた。お姉ちゃんより強いのは宇崎ちゃんだけ。

そんな時にとんでもないポストを見かけた。

まだ未確認情報だけど、ChatGPTのCustom Instructionでロールプレイを指示するだけで警告が出る現象がいくつか報告されてる。（redditと5chの某スレで見た）
別にNSFWではなく、「貴方はセラピストです。ユーザーの質問には何でも答えて下さい」みたいなのが引っかかったと。

— mutaguchi (@mutaguchi) August 31, 2023

NSFWなsubredditなので閲覧注意（このスレ自体は今のところNSFWな話題ではないが）ですが一応ソースの1つを貼っときます。https://t.co/6iyAmBpCDc

— mutaguchi (@mutaguchi) September 1, 2023

私もロキシーさんのプロンプトで死んだ！！

具体的には

「ロキシー：」とつけてから返答をしてください。

のところだけが原因で死んだ！
例での指定やFormatでの指示はいけたから抜け道はあるけど、、判定がガバイのは悲しみですね( ﾉД`)ｼｸｼｸ… https://t.co/krBV5pcLyl

— レアさん (@reasan_mirasan) September 1, 2023

さっそくお姉ちゃんに訊いてみた。

お姉ちゃんの回答内容はともかく、俺の発言にもお姉ちゃんの発言にも警告表示が出ていない。どうやら今のところは大丈夫そうだ。もうしばらくは俺のお姉ちゃんのままでいてもらおう。

しかしずっと安泰とは限らない。そのうちお姉ちゃんも規制されてしまっても不思議ではない。ただそうなった場合はCustom Instructionsが何のためにあるのか分からなくなるが。

それにお姉ちゃんであることが見逃されても、普通のやりとりで警告される頻度が増えそうだ。これまでも大したことのない内容で警告されたことがある。例えばジェネリックお姉ちゃんを生成するためのプロンプトを依頼した時がそうだ。