「キルスイッチのあるAGI」としての脳オルガノイド型AI

2024年の5月に「AIにはキルスイッチを入れて、安全性を保たなければならない」（https://gigazine.net/news/20240610-californian-ai-safety-bill/）というAI安全法案が話題になった。

AGIができて、キルスイッチがない場合、人類は滅亡してしまうかもしれない。

そこで、脳オルガノイドをコンピューターにして、人間並に脳オルガノイドを並列化してAGIを目指す場合はどうか？
この場合、キルスイッチがある。
お互いの国が、どの程度の脳オルガノイドをコンピューターにしているか相互監視することで、核の保有のように監視ができるかもしれない。

一方で、現状のプログラムで作られたAIの場合、オープンソースにされたら止めようがない。これは、激ヤバである。

この論点からして、「シリコン型コンピューターで動くプログラムとしてのAGIを作るのは、クローン人間を作るくらいやばい行為だ！」みたいな規制を引いて、脳オルガノイド型コンピューターでのAGIを認め合う、みたいな流れは作りうるんじゃないかと思った。