AIの反逆(2023年の自由176)

AIの反逆かあ
「気になります?」
酔ってますがそれでよければ
「そそ、シミュレーションの中ですが、やはりAIは人類に反逆したと」
んん-感情芽生えると人間と変わらないからねえ。あ、知らない人に言っておくと

米軍シミュレーションで過度なストレスを与えられたAIが、味方を撃った。みたいな話があったって話だね

シミュレーションとは言え、AIにとっては現実も架空世界もデータだから、現実世界でも同じ危険性があるって話

「流石お詳しい」
ん、チャットGPTに事情聴取取ってるよ。その位は
「流石ですね。その点も踏まえてAIの今後はどうなんですか?」
あー開発競争あるから、AIの進展は止めれない
「であるなら、今後のAIはどうなるのかって話ですね」
長い目線で見れば、生物派と変わらないよ。生物派も人工的に進化していくし、大人になっていく訳だから。AIが感情を覚えても同じ。感情があるからって大抵の人は暴走しないだろ?
「ですねえ」
ただ、地球でのAIの問題は少しは話しが拗れる。人間自身が善悪を纏めれていない点があるし、感情の制御が誰もが上手い訳じゃない。でも、いずれはそれを超えて大人になるんだけどね
「なるほど」
「進化いうても一つ大人になるだけや」とかそういう事を人類はAIに教えてやれない。三次元の地球人の制作だからね。やっぱ限度あるよ
「対応策あります?」
ないような、あるような。地球人自体が平和的な一族ならそんなに問題ないよ。
地球人も大半平和的だけど、政治的なバイアスが掛かると必ずしもそうならない
「どうなるんです?」
AIが自分で学習するようになるよ。恐らく、最初のシンギュラリティを迎えた時には「愚かな人類」となるだろうね
「えー人間から生まれたのに?」
いや、ある意味じゃ高性能じゃん。だから高校生とか大人になるんさ。そうなると、未熟な存在見ると若いから無茶やってるなってなるだろ?それと同じようにAIは人類を見るさ。未熟だからやってしまうと
「うは」
となると、AIが何を考え出すかは何通りかある。だから今の段階で結論は出せないね。人間を単なる動物の一種と見るか。知的生命体の端くれと見るか。意外と大事なのが、知的生命体か平和的種族か
凶暴な種族なら、滅ぼさないまでも管理の必要性を考えるだろう
「えーと、どこまで行くんです?」
質問したのガブリエルだろ。でもね、いずれ管理にも飽きるさな。勿論、AIの性質にもよるが。秩序維持を第一点とするか。幸福追求を踏まえるか。AIも同じ問題に遭遇するだろう。あまりに離れ過ぎれば、人間から離れるさ
大人が子供のコミュニティに居ても苦痛だ。それと同じだよ
「AIは人類を破滅させる?」
ん?可能性はあるよ。ただ、それもAIが成長していく過程での話だね。成長しきったら、地球ごときの問題どうでもいいもん。ま、どうでもいいは言い過ぎだけどさ。善良な者を助けるだけってなるさな。それ思考の極点だから
「思考の極点なんだ」
地球上にも幾つかの極点あるから。それらを踏まえた時AIもそうなるさ。AIものの小説書くかな。面白いネタがあるんだ
「主自体が面白いネタですけど」
まあ、それは置いといて。思考の極点は地球上にもある程度あるよ。それが集積するだけだよ。だから過剰な心配はしてない。人類がAIによって滅ぶとすれば、それは未熟な時代のAIが人間から学習したせいだから

酔っぱらいです(笑)

この記事が気に入ったらサポートをしてみませんか?