ディストピアとAIとサピエンスと。

AppleからVision Proなる新しいデバイスが発表されました。
電脳コイルの世界観が近づいていますね🥽。Higashiyamaです。

前回投稿した記事の最後に、こんなことを書きました。

AI時代の僕らに必要なのは、どうにかして「善人・悪人」を判断してくれる、それしかしない、それしかできない、魔法の洞窟のような存在なんではないかと今思いました。

存在したら存在したでディストピアかもですが。

自分で読み返して思ったのです。
なんで直感的にディストピアになっちゃうと思ったんだろう、と。

なぜディストピアだと感じたのか？

得体の知れない存在に、一刀両断で善人 or 悪人判断されてしまうことに対する畏怖が一つの原因かなと感じています。
どんな論理や判断基準を持っているかもわからないから、「常に監視されてるんじゃないか」「心の中まで見透かされているんじゃないか」と疑心暗鬼になりながら毎日を過ごす、といったような。

問題は行為か、主体か？

得体の知れない存在に裁かれる。常に監視されている、心の中まで見透かされてしまう。
確かにそんな生活だと、不安で息が詰まってしまいそうですが、一方で、神さま仏さまってそういう存在じゃなかったっけ？とも思います。
宗教は詳しくないのですが、「お天道様は見ている」とか、「悪いことすると天罰がくだる」だとか、常に神さま仏さま的な何かに見られているという考え方は、複数の宗教で昔からあったのではないでしょうか。
そうすると、監視される・見透かされること自体が問題なのではなく、監視したり見透かしたりする主体に問題がある、ということなのかもしれませんね。

今は人間が人間を監視して裁いているけれど。

神さま仏さま的な存在になら裁かれても監視されてもいいけど、得体の知れない存在は嫌だと。
でも監視社会って大なり小なりすでに存在していますよね。特定の人間・政党による独裁国家とか。法とかルールも、あるようで実際には権力者が好き勝手に裁けるような。
神通力の代わりにテクノロジーを駆使されることで、行動データから思考まで丸裸にされてしまっているような気さえします。
これはもしや、ディストピア？

AIは神さま仏さまではないけれど。

ここでAIを登場させてみましょう。
そうですね。人間が定めた憲法をよりどころに、司法・立法・行政全てをAIが担う。どの個人・組織への忖度はありません。
一時的には格差を助長するように見える施策だとか、独裁国家もビックリの監視社会になるような施策をバンバン打ってくるかも知れません。
でも、汚職も横領も情報漏洩もシステムエラーも、一切起こさない。不正もヒューマンエラーも発生余地がないようにオペレーションを作り変えて、ただただ清廉潔白に、憲法に則った国家運営を忠実に実現する。憲法が適切かどうかは置いておいて。
雑に書き殴りましたが、そんなAIによってコントロールされる世界ってどうでしょう。
これもやっぱり、ディストピア？

人間とAI、怖いのはどっち？

「だってAIが暴走でもしたら！」
そうですよね。「人類の存在は害悪である！」なんてAIが結論を下したら最悪です。
でも暴走するのは、人間もきっと同じで。
狂った人間が暴走して、無垢なAIを悪用する可能性の方が個人的には恐怖です。
「この戦争に負けるくらいならば…スベテヲコワシテミセヨウゾ！」

どの道もディストピアならば。

サピエンス全史の著者であるユヴァル・ノア・ハラリさんは、本の締めくくりにこんな表現をされていました。

私たちは何を望みたいのか？

AI時代に突入する私たちは、ユートピアに何を望みたいのでしょうね。