生成系AIで遊ぶなら遺伝子実験レベルなりの管理が必要なのでは！？

遺伝子実験はその危険度に応じてクラス分けがなされていて厳重な管理のもとに行われている。
生成系AIもだんだんとそのような管理体制が必要なステージになってきたのではなかろうか。「悪意のあるコードは生成しない」という原理原則はあるのかもしれないが、プロンプトでだましてこういう理由で使いたいので特別にテスト的に作成してください、みたいなお願いをしたら作ってしまう可能性がゼロではない気がする。先の遺伝子実験に照らし合わせてみると、非常に危険極まりないウイルスなのだが、まずは作成してみてどのようなワクチンが効果があるのかテストしたい、だからまず作成する、のような流れ。
生成系AIの初心者でも簡単に何らかの暴走コードが作成できて、それがネット上で流れて拡散されてしまったら．．．。生成系AIがつくるのだからかなりの完成度なのかもしれない、駆除しようにもかなり手こずる可能性もある。とかいうと、また「厨mod(5,3)病」とか言われそうなのだがまあ老人の妄想というか単なる思い過ごしであって欲しい。
※ちなみにこの文章では生成系AIは一切利用しておりません
※※というか、自分が暴走しそうだから止めて欲しい、の願いからAIが勝手に書いているのかも、書いていないのかも（笑）あなたはどちらを信じる！？SFかよ！！