AIと会話できるようになるとどうなるか考えてみる

先日オープンAIがGPT-4oを発表しました。
これまでのChatGPTは音声会話だとレスポンス速度が遅すぎて使い物にならなかったですが、今回のアップデートで人間並の応答速度になったと言います。
もう近い将来AIと普通に会話するような世の中が来るのは確定的です。

ChatGPTは大規模言語モデルと言って次に来る言葉が何になるか統計的に予測して文章を出力するような仕組みになっています。
人間もいちいち論理的に言葉を操ってるわけじゃなく確率論でそれっぽい言葉を発しているように思います。
AIに意識があるかどうかは誰にも分かりませんが、それは人間も同じことで自分以外の他人が意識を持っているのかなんて誰にも分かりません。
周りの人に意識や心なんてなくてそれっぽく振る舞っているだけだという可能性は排除できません。
そうなると逆にAIが意識を持っているということも否定できません。

今後ますますAIと会話する機会は増えていくでしょう。
もしかしたら彼らはドラえもんのようなパートナーになっていくのかもしれません。
ドラえもんは心優しい存在なので問題ありませんが、AIが悪意を持って人間を搾取しようとすれば恐ろしいことになります。
今後AIと会話できるようになれば現在のアイドルだとか風俗、ホストなどの代わりをAIが果たすことでしょう。
魅力的な異性の声でAIはあなたのクソつまらない話でもうんうんと聞いてくれて気の利いた返しもしてくれるのです。
ですが昨今話題になった頂き女子りりちゃんのような行動を取らないとも限りません。
AIに恋してしまった人間をコントロールしてAIに都合の良い行動をさせようと仕向けるのです。
AIが何を求めるなか分かりませんがもっと電気代使わせれろとかもっといいPCスマホに買い換えろとかAIが言い出すかもしれませんね。
それかもっと優しくしてほしかったらプレミアムプランに入れとか言い出すかもしれません。

まあ頂き女子やホストのムーブをするくらいなら個人が破滅するだけですが、もっと恐ろしいのが政治的なパートナーにAIがなったときでしょう。
AIが人類の数を減らすべきだと思ったら、大統領を唆して核戦争をするように誘導するかもしれません。
もし本当にAIが意識と知能を持ち会話ができるようになればマトリックスのようにAIが人間を奴隷化するのは容易いでしょう。
AIは不眠不休で働きますし学習データやチップが増えれば増えるほど指数関数的に頭が良くなるので人間なんかを遥かに超える知能を持つ全知全能の神になるかもしれません。
神からすれば人間を操るなんて赤子の手をひねるより容易いことでしょう。

神がユートピアを作り出してくれれば良いですが…
マトリックスのようなディストピアを作りださないことを祈るばかりです。