AI時代の思考実験4選

思考実験って面白い話ですよね。
今回扱うのは、ラプラスの悪魔、メアリーの部屋、トロッコ問題、テセウスの船です。
どれも言っても架空の設定の話なんでしょ？と思うかもしれませんが、技術の進歩によって現実にも関わる問題になってきています。
この記事では私が理解している範囲で、それぞれのエッセンスに触れていきます。

ラプラスの悪魔

これは、全知全能の神は枠外に存在するという話です。
どういうことかというと、例えばある世界の全てを理解したとして、その脳が世界の中に内在する場合は「全てを理解した私自身という情報を追加して理解しなくてはいけないので無限ループが発生する」という話で、だからこそ内部の存在が全てを理解することはできないということである。
もう少しかみ砕くと、私は世界の全てを理解したという情報を理解したという情報を理解した……というように、「私」が世界の中にいる限りは全てを理解した私自身を理解することができないために世界の全てを理解することはできないという話である。
では、ラプラスの悪魔が何かというと、枠の外に存在しているからこそ、世界という名の水槽を外から全て観察して、その全てを理解可能な存在ということである。

さて、AIは神になるのかという議題があるが、神になるとは何かと考えると、ラプラスの悪魔のように枠外に存在させるという話になるので、そう考えるとAIが神になる条件と言うのは、AI自体の性能というよりかは人間社会を水槽化してコントロール可能にすることであって、人間社会が水槽化するとAIが外からいじれるという話になる。
さて、そうなった方が効率的だと思いますか？それともルールの無い支離滅裂な社会の方が良いですか？

メアリーの部屋

これは例えば、色が全くない部屋に閉じ込められたとして、そこで色に関するありとあらゆる知識を学ぶことになる。色に関する全ての知識を理解し誰よりも色に関して詳しくなったが、実際には色を見たことが無い状態で、初めて部屋の外に出て色を見たときに何か新たに得る情報はあるのか？という話である。
そりゃ初めて見たら感動するだろうと思うかも知れないが、事前にその感動に関する情報も含めてありとあらゆる情報を手に入れているという前提である。
で、ここで初めて色を見たときに何かが有る派と無い派で議論が分かれるのだが、ここで有る派の立場で仮に何かが得られるときに得るものを一般的に「クオリア」と呼ぶ。

さて、今のところchatGPTのようなAIはインターネットの情報の世界にいてありとあらゆる知識は持っているが、人間のように体を動かして五感を使って何かを感じたりはしていないわけであるが、これってメアリーの部屋の設定にかなり似てますよね。
AIが体を持ったらクオリアはあるのだろうか？気になるところである。

トロッコ問題

これは有名ですね。
例えばまっすぐ行ったらトロッコが5人ひくが、路線を切り替えたら1人だけ別の人がひかれる。
このときに路線を切り替えて1人の別の人をひいた方が良いかという議論である。
まさに自動運転でこのような状態になったらどうする？というところで、まぁ1人もひかないように設計するという話なのだろうが、実際そのような状況になったときにAIはどのように判断するのだろうか？

テセウスの船

とある船を全てバラバラのパーツにして組み立てたらそれは同じ船なのか？という話である。また、それに派生して、設計図は同じならば量産しても同じ船かというような話もある。
これが関係してくるのはトランスヒューマニズム的な身体改造の話だと思われる。
自分自身がサイボーグ化したとして、どこまでの改造をしたらそれが自分だと言えなくなるのだろうか？

未来はすぐそこまで来ている。
今回はそんな話でした。
以上です。長々と失礼いたしました。