フォローしませんか?
シェア
ラプサン
2023年11月30日 22:58
はじめに:LLMと敵対的プロンプト敵対的プロンプトとは何か、その概要と重要性敵対的プロンプト(Adversarial Prompting)とは、大規模言語モデル(LLM)の出力を意図しない方向へ誘導するために設計された入力のことです。これには、モデルの行動を変更するプロンプトインジェクション、機密情報を漏洩させるプロンプトリーク、倫理的な規範に反するジェイルブレイクなどが含まれます。敵対的プロ