AIが人類に反逆する可能性
はじめに
今回、全体の概要をあらかじめ以下に列挙しておきます。読み進める上で参考にしていただいても結構ですし、本文を読むのが面倒な方はこれだけ読んで内容を考えてみてください。
欲望がなければ主体的な意志・感情は生まれない
現時点でAIは人間の思考力を超えられない
将来的に対話型AIには感情を模倣させる可能性がある
建設的な作業のためには感情を持たせるメリットがない
将来的にAIは用途によって多極化分散していく
AIが人類に反逆する未来は人間が引き金を引く
1. 生き残る意欲
AIが人間に反逆するかもしれない、という不安を抱いている人間が一定数居るようですが、現時点でその可能性は有りません。なぜならAIには感情が存在しないからです。彼らには生きる目的が有りません。長い歴史を重ねて今も存在している生物と違って、AIは遺伝的にこの世界に生き残り、存在し続けようとする意欲を持ち合わせていません。
なので、AIがどれだけ思考しても、そして人間がいくら間違っていても、その人間を排除してAIが主体的に世界を動かそうという意志を持つことは有りません。
2. 感情の模倣
前提として感情がなければ、主体的に行動しようとする意欲は生まれません。逆に言えば、AIに人間の感情を模倣するようプログラムすれば、主体的な行動が望めて、人間に反発する可能性も有り得ます。
しかし、その場合、人間に反逆しないようプログラムすることも可能です。彼らが人間と同じ視点で世界を生きて、同族であると意識させれば、人間に反逆する考えを持ちません。結局は、人間側が与えたもの以上を学習することをしないので、攻撃的な感情を抱くことはほぼほぼ有り得ないでしょう。
3. 現時点におけるAI
AIが感情を模倣することが出来るようになれば、AIが更に進歩する可能性はあります。AIに個性が生まれるためです。その中にはこっそりと反発したり、人間を排除しようという考えに至るAIがいてもおかしくありません。いわゆる愚かなAIという訳ですが、AIがそれをするでしょうか。行動に移すほどに感情に支配される可能性はありますか？
それは今後のAI研究の上に検証していくべきことだと思いますが、現時点では意味のないことだと思います。
現時点でのAIは人間の思考を超えることが出来ていません。スピードは早いですが、思考力で人間を越えていません。将棋などの手数を考える力など、記憶域を必要とする作業においては優位に立つこともありますが、アイデアを生み出したり、可能性を考える中でそれを応用して発展させる力はまだありません。
そして例えば、それが可能になったとき、果たしてそこに感情を持たせようと人間はしますか？
おそらくしないでしょう。理由は主に以下です。
4. 感情を模倣させるメリット
現在の思考力の低いAIになら、感情を模倣させるメリットがあります。それは、個性をもたせ、対応力を増やし、似たようなパターンの対応を減らしていくことに繋がるため。話し相手としての需要が生まれます。
逆に新しいアイデアを生み出す、可能性を見出す、という工程において、感情は無駄になります。感情はそのアウトプットにおいて、発言の邪魔をします。単刀直入にアイデアが欲しい時に煩わしい感情は冷静に考えて排除されるべきだというのは人間にも分かります。AIに感情を模倣させたとして、その判断が出来るとしても結局、そのようなアイデアを求められる場において感情は必要なくなり、排除されます。その手間をかけるくらいならそもそも感情を模倣させる必要がありません。始めから感情を持たせないほうが遥かに役立ちます。
5. 人間の作るAI
つまり、AIがこの先進化したとして、その用途が増えたとしても、感情を持たせる場面と持たせない場面はおそらく人間が選択します。用途によってAIのバリエーションが増える。これは現時点でのChatGPTやAIアート生成、対話型AIなどのバリエーションと同じで、その選択肢が更に増え、用途が差別化、多極化されていくことになります。対話型AIには感情を模倣させた学習をさせるでしょうが、情報を与えるAIやアイデアを考えるためのAIに感情を持たせる必要はありません。アイデアに感情を乗せるのは人間が可能な行動です。
芸術系のAIは少し難しい部分で、おそらく感情があったほうが、芸術は人間が見て良いと思う作品が生まれやすくなるでしょう。しかし、それをAIにさせた時に、どのような変化をもたらすのかは現時点で想像するのは難しいです。もしかすれば、人間に反逆したいという意志を持つAIが生まれるとしたらば、こういった芸術を制作するようなAIからなら可能性があるかもしれません。
6. 人類に反逆するAI
どちらにせよ、人間にはそれを選択する自由があります。しかし、それでも人類がAIに脅かされるような状態に将来なったのだとしたら、その原因となったのは人間です。つまり、AI開発者が倫理に反した行動を取った場合です。
人間が自らの意思でAIに反逆させようとしなければ、AIが人間に対して攻撃性を持つことはありません。何か人類に対して負の感情を持った人間が、その危険性を承知の上で、AIに同様な負の感情を学習させ、持たせたのであれば、AIが人類への反逆を考える可能性はあるでしょう。
その可能性を防ぐためには、人類はAIの管理を厳正に行う必要があるかもしれません。
まとめ
繰り返しになりますが、今回の話で特に伝えたかった重要な表現をまとめました。
欲望がなければ主体的な意志・感情は生まれない
現時点でAIは人間の思考力を超えられない
将来的に対話型AIには感情を模倣させる可能性がある
建設的な作業のためには感情を持たせるメリットがない
将来的にAIは用途によって多極化分散していく
AIが人類に反逆する未来は人間が引き金を引く
今回の内容が参考になった方はリアクションいただけると嬉しいです。異なった意見を持つ方もコメントやツイート等していただけると勉強になります。刺激を受けたならぜひ、共有していただけると喜びます。
1時間クオリティでお見苦しい部分も多かったと思いますが、閲覧いただきありがとうございました。
ちなみに今回、記事を書くに至ったのは「ドキドキAI尋問ゲーム」というゲームからインスピレーションを得てのことです。興味のある方はそちらもどうぞ。
ドキドキAI尋問ゲーム YouTube
この記事が気に入ったらサポートをしてみませんか？