GPT4に「全」の証明をさせた男がAIの脅威について語ってみる

　AIとは一体なんなのか。端的にいうと、生命のように生まれたものでもなく、これは「道具」として人間によって作成されたものだ。
　よって、これが人間に矛を向けることは、狭義のAIであるならば考えられず、道具でいうトンカチが突然人間に向かって殴りかかるか、というと答えは「NO.」だ。
　AI(特に大規模言語モデル)は過去を並び替えたものを抽出したに過ぎず、遠い未来について考えたり、その複雑なデータを作り上げることは人間には劣る。現時点でできるのは、今の時点に関与することである。
　ここからは、AI、もしくはAGIに関する脅威について語っていこう。AIの思考回路はいまだ未解明の部分が数多く、人間にとっては不条理な結果をもたらす可能性を示唆している。ハルシネーションなどが軽微な例であろう。これがAGIとなると危険度が多いに上昇する。なぜかというと、一定のプログラムされた通りに動く道具ではなく、あくまで人間らしく作動するように設定されているのがAGIと呼ばれる人工知能だ。その使われ方によっては、思いもしない行動をAGIが取り、人間に矛を向ける可能性は、大いに考えられる。
　さらに人間に大きく関与しそうな例が、まさに監視社会で意図的に人間が大きく分類され、不条理な扱いを受けるというものだ。中国ではすでに、監視カメラによる少数民族の弾圧に使われている。これまで以上にパラメーター数が大きくなると、その分人間がAIに依存しやすくなり、さらに管理社会によって人類に選択肢を奪われるという現象が考えられる。
　最後に、AIはあくまで道具であり、人間に「意図的に」矛を向けることは考えられないので、安心しよう、というのが現時点での私の結論だ。ただし、AGIの設計に左右されるが、プログラム上の動きで人間に悪影響を及ぼすことは考えられる。