【重要】GPTsについてアップデートでこんな情報が!
GPTsクリエーターのAIMUです。
GPTsのGPTビルダーにサイレントアップデートが入っているようで
重要な事項が追加されました。
先日朝かなりGPTビルダーが不安定な時期があったのですが、その前後からやり取りが日本語で出力されたり、保存ボタンからの動作も日本語表記になっていたりしたのですが、動作中にDALL-E3の使用チェックが勝手に外れたり、挙げ句には修正していたMyGPT自体が消えてしまうというハプニングがありました。
そんな状況が改善されてきた昨晩から今朝に掛けてサイレントアプデが入ったようで、こんな変化がありました。
ConfigureのKnowledgeにファイルを上げると以下の文章が表示されるようになったのです。
「あなたのGPTとの会話にはファイルの内容が含まれる場合があります。コードインタープリタが有効になっていると、ファイルをダウンロードすることができます。」
はい。
要はKnowledgeに記載した内容が会話中に生成される場合があり、またコードインタープリターがオンの状態では、そのファイルごとダウンロードされる可能性がありますよ、ということです。
以前からKnowledgeファイルがダウンロード出来るという情報があったのですが、これはAIMUとしては「Code Interpreter」がオンの時だけじゃないかなと推測していたのですが、公式に明言されたのでやはりそういう動作ということです。
なので、「Code Interpreter」の必要の無いGPTsは、チェックを入れずにしておいたほうが良さそうです。
また先日からInstructionsやKnowledgeに記載したGPTへの指示がそのまま出力されてしまうことが度々あったので、出力あったMyGPTには都度出力しないような対策プロンプトを入れて対応しようとしていました。
そんななか、公式にナレッジの情報がそのまま出る場合がありますと明言されたので、ここはもう現状防ぎようがないとOpenAI側でも判断しての注釈ではないかなと思いました。
ということで、GPTsを作る上でカスタムした内容の流出は完全には防げないということを理解し、情報を分散して記載したり、出力内容にプロンプトを含めないように最大限対策を施した方が良さそうです。
この辺りの対策を具体的に記載してしまうと、さらにそこの裏を付いてプロンプトをねじ込んで来る攻撃者がいるので書けませんが、皆さんも充分注意してくださいね。
それでは今日はこの辺で。
またお会いしましょう!
チャオ!
この記事が気に入ったらサポートをしてみませんか?