生成AIとサンドボックス

昨日はデジタルファーストキャンプのライブでしたが、その際生成AIのデモンストレーションがありました。OpenAIのKeyを入れてChatGPTを使用し、AIが自分自身で命じられたプロンプトに沿ってプログラミングを生成し、目標を達成しようとするさまを見て、私も確かにかなり怖いなと少し恐怖を覚えました。
外部に影響しない環境を作って、そこで自由になんでもさせるということをサンドボックスというらしいのですが、もし何の制約もなく命令を実行することを目標とした場合、生成AIというのはいろんなことをInputとして実行しようとするはずです。例えば、何かの情報を得ようとした場合に何らかのFire wallがあってそこを突破する必要があった場合、様々な情報からそのFirewallを突破しようとすると思います。それは考えられうるあらゆる手段というのを考えるのでしょう。例えばうその情報を流してパスワードを読み取ろうとしたり、その人の属性からパスワードを予想したり、はたまたその人からパスワードを読み取るために、株価の情報を予想して大金を稼いでそのお金で誰かを雇ってその人を脅してパスワードを奪い取ろうとするとか、はたまた、パスワードを読み取るためにうその情報で世界をかく乱して、テロリストにテロを起こさせて無理やり拉致させて情報を得ようとするとか、、、要は、良心の無い天才的な人間があらゆる制約をなく目的を実行するようなイメージができて、ああ、これはかなり怖いことが起こりうるなと少しだけ実感しました。
AIを使った自動運転とかありますが、やはり、普通に人を自動的に殺すロボットというのはできそうだし、それを止めるパスワードを作った人間が忘れてしまったりしたら、それこそターミネーターの世界だな、っと思いました。
そういう意味で先人たちが作った映画というのは、来るべき未来を見事に予想しているなと思う反面、そういうことが起きないように人類としてきちんとしたサンドボックスを作らなければいけないと思うのと同時に、そのルールを破った人が他者に先駆けて得をする状況というのがある以上、ターミネーターの世界が現実になる可能性も、そんなに低くはないと紛争が多発する現実を見ながら思うのでした。