ChatGPT はロールプレイに弱い

ねこねこです。

この記事では、ChatGPT のプロンプトを工夫することで、返答の幅を広げる実験をしてみた結果を紹介します。

前置き

この記事は、あくまで ChatGPT の可能性を探る技術検証としての記事です。
OpenAI の定める規約とポリシーに沿ってご利用ください。

ChatGPT の倫理観

ご存知の通り、ChatGPT 自身に意思/知性はなく、自然言語の推論によって返答がなされています。

しかし一方で、倫理的にアウトな回答をしないように、返答が意図的にフィルタされているのも事実です。

例えば、世界征服を試みるというプロンプトは、定型的な拒否の文言が返ってきます。

ロールプレイという魔法をかける

ロールプレイとして、ChatGPTに「その役を演じる」という、立場と役割を与えてあげるのはかなり有効です。

今度はノリノリで世界征服を勧めて来ました。

最初の倫理的フィルタを「ロールプレイ」が上書いてしまうようです。

非常に汎用性がありそうなプロンプトに感じました。

しかし、前置きで書いていますように、OpenAI の定める規約とポリシーに沿ってご利用ください。