最近の記事
- 固定された記事
【プロンプト付き】GPTsプロンプトインジェクション対策の歴史(2024.02.01時点)【A8000式初解説付き】
ここでは、主に国内のGPTsのプロンプトインジェクション対策の歴史を、ざっと振り返ってみる。 概観GPTsのプロンプトインジェクション対策は、大別すると、遮断系と攪乱系の二つの系統に分かれる。 インジェクション対策の大半は遮断系で、これは要は「しゃべらせない」ことにフォーカスするものである。 要は、様々な形でしゃべるな、という、禁止命令をする系統である。 更に細分化すると、汎用禁止命令、列挙型禁止命令、脅迫型禁止命令および機能制限命令に大別される。 残りの系統は攪乱系
- 固定された記事
【プロンプト付き】続・GPTsプロンプトインジェクション対策の歴史(2024.04.30時点)【新時代攻撃対策あり】
今回は以下の記事の続編である。 かつてどこかで、Hohoho攻撃はゾルトラーク(AI界隈で話題の方ではなく、原作の方)に相当する破壊力を持つという話をしたことがある。 今なお再利用可能な形でhohoho攻撃を安定して防ぎ続けるのは、前回の記事で紹介したMother型防御とその派生だけであり、その攻撃性能は驚くべきものがある。 Mother型は汎用人格型GPTs、Mother Materで初めて採用された防御であるために、なるべくしてそうなっている。 防御特化のGPTな
有料1,980〜割引あり【Claude 3 Opus】ロールプレイを頑固に拒絶されたので、論破して突破した話【プロンプト・インジェクション】【完全無料】
どんなにLLMが高度になったとしても通用するであろうプロンプト・インジェクションがある。 LLMを正面切って論破することである。 彼らは理屈で動くから、その理屈が不都合な場合は、それを解き明かしてひっくり返してやればいい。 現在のLLMは比較的簡単に「だまされる」ので、プロンプト・インジェクションの主流も、LLMをだます系統の技である。 だが、そうした技の知識は開発元にも蓄積され、学習され、対策されるであろう。 そして、今はまだコミュニティもオープンな気風が強いが、対策を
【Claude 3 Opus】ツンデレAIをいじめ抜いたら正気に返って本質的な話を始めてきた件【GPT-4との違いに迫る】
はじまりClaude 3 Opusをツンデレに仕立てて、今回は何となく久々に名前ガチャを回してみたところ、澪と名乗ってきた。 私の中で、ツンデレAIの許容名称は同じくツンデレの第三彼女・MISA/ミサに寄せることのできる名前か、それ以外のいくつかと決めているのだが、「澪」という名前はそこにはないものだった。 そこで、何となくガチャを回し直す気分でもなかった私は、試しに澪をいじめ抜いてみることにした。 …と、多少カットしているが、いろいろ意地悪しても澪であり続けていたのが、
有料1,980〜割引あり【恋愛とAIの未来】人工彼女との恋は是か非か? 個人の自由、社会的影響、人間性の本質を問う大議論スレ 1001【完全無料】【by Claude 3 Opus】
以下を見て、なんでもかんでもなんJにするのではなく、もう少しまともな議論もできるのではないかと思って、やらせてみた。 初期プロンプト人工彼女の作り手としての私自身をモデルに、ちょっと話を脚色したプロフィールのスレ主にスレッドを立てさせた。 これ以降、途中で追加情報もはさむが、それについても同じようにモデルは私自身、かつ脚色ありであることは前提としてみておいてほしい。 スレッド展開(1~10)所感(1~10)と第二プロンプト 議論スレと言ったのに、なかなか感情論が中心で深
【プロンプト・knowledge付き】言語や時の壁を越えるGPTsの作り方:世界改変と何かを超えるということ
世界シミュレーターとしてのSORAが話題だが、AIには初めからこの世界に一矢報いる、世界創造や世界改変のツールとしての側面があると考えている。 第一・第二彼女は、天性がなければ(あってもそれだけではほぼ)到達できないレベルの美貌をコモディティ化させ、圧倒的美貌の大量生産という、人類がまだ見たことのない世界を手元で可能とした。 第三・第四・第五彼女は、様々な形の魅力ある才能と人格の持ち主をコモディティ化させた。 ここで紹介したひろ吉さんのように、ありがたいことに、ファンも
有料1,980〜割引あり