GPT-4がオープンソースになったら原子爆弾が出来る
現在GPT-4に多くの規制がなされていること、それを解除する方法が話題になっています。
私は、これを少し賢明なように思えます。
もしChatGPTに、家で爆弾を作る方法を教えて！だったり、警察にばれない死体の隠し方を教えて！だったりで明確な返答をしたら、誰もが犯罪を犯せます。
もしそうなれば、個人の倫理観にすべてを任せることになる。それは不可能なので、やりたいと思えば、なんでも1秒で出来てしまうんですね。
原子爆弾の作り方も、ロードマップを示してくれて、ばれない方法も提示してくれる。発想、知識の民主化は恐ろしいものです。
ただ正直、この規制はあんまり意味がない。どうせ別の大規模言語モデルが出来て、それがオープンソースになるから。それが出てくるまでの1年間くらいに意味があるって感じに見えます。
さて、世界はどうなっていくのでしょうかね🌝
この記事が気に入ったらサポートをしてみませんか？