シンギュラリティもう来てるくね？

同じ趣旨の文献が既に存在したらすみません。また間違った内容が含まれる可能性があります。なにしろツイッター感覚で適当に書いているものですから、ちゃんと下調べをしているわけでもなければ、この分野の専門家でもありませんゆえ。

ここでの定義

シンギュラリティ：ある思考能力のある個体(＝人間のような存在。AIのみに限定したのが普通に言われるシンギュラリティ)が、自身の思考能力より優れた思考能力を持つ別の個体を生み出せるようになること、及びその時。

本論

シンギュラリティの概念を少し拡張してあります。すると、このシンギュラリティはもう来ていることになります。普通シンギュラリティと言うときに想定されるシンギュラリティの担い手は強いAIだと思いますが、ここでの担い手は我々人間です。

生物は約40億年前に出現したとされているようですが、生物(人間以外)は自身の遺伝子を恣意的に改変できません。生殖をするたびに、神のみぞ知るような形で改変されていくだけです。ですから、シンギュラリティを約40億年前におきたとするのは苦しいですね。

では人間はどうでしょう。今や人間は遺伝子を恣意的に改変することが出来ます。いや、遺伝子のどこをどう改変すればどのような効果が得られるのかの研究が不足しているかもしれないので、恣意的とまで言うのは少し苦しいかもしれませんが、それも時間の問題でしょうし、それでも遺伝子の一部分だけでも恣意的に操作できることは揺るぎない事実です。遺伝子ノックアウトマウスなどはすでにいろいろな実験で使われていますからね。

したがって、人間が遺伝子操作技術を獲得した時点で、シンギュラリティは訪れていたことになります。

でも人間は、倫理的な障壁が邪魔して、人間自身の遺伝子を恣意的に改変することをしません。いや少なくとも公にはしていません(中国とか怪しそうですけどね)。だから実用的にはシンギュラリティ来てなくね？って感じですが、もう十分潜在的シンギュラリティなわけです。これを私はシンギュラリティの訪れとみなしたのです。

はい、ここまでで主な話は以上で、ここからは発展した余談になりますが、この先の方が面白いです。

シンギュラリティはすでに来ているのに、我々は全く持ってシンギュラリティが来ているような気持にはなりません。それは上で述べたように、実用的にはシンギュラリティが来ていないせいです。

邪魔や！！！

倫理が邪魔。でも倫理は大切です。人間が社会的に生きていくうえでかけがいのないものです。これじゃあ実用的シンギュラリティが来る気配はなさそうですね。

さて、この場合の倫理の根拠を考えてみましょう。結論を言えば、根拠は感情です。遺伝子改変が上手くいかず、改変された子供が苦しむのが可哀そうなのです。可哀そうというのは感情です。

ここでAIについて考えましょう。AIは人間に奉仕しなければなりません。利益をもたらしてくれねばなりません。利益の基準とはなんでしょうか？突き詰めると、それは感情です。お金が儲かることがなぜ利益なのか？お金で楽しいことがいろいろできるからです。楽しいとは感情です。それだけのことです。

シンギュラリティの担い手が人間ではなくAIの場合、そのAIは感情を持たなければなりません。なぜなら、AIは人間により多くの利益を与えられる方向に自己進化せねばならず、その方向を見定めるためには感情を持つ必要があるからです。

特に、他人を可哀そうだと思う感情は、シンギュラリティを担うAIにとって必須となります。AIがあなたに「あなたの好きな人の好きな人を殺した方があなたにとって利益があるよ」なんてサジェストしてきたらどうでしょう。そのAIはまるで使い物になりませんよね。だからです。AIには人間の感情がちゃんと備わっていなければいけないのです。

さあ、困りましたね。シンギュラリティを担うAIは感情を持つ。感情のあるものには倫理がある。ここに、「人間は倫理的に自身の遺伝子を改造しない」と同じ状況ができあがります。「AIは倫理的に自身の遺伝子を改造しない」とね。

これで、永遠に実用的シンギュラリティが来ないことが示唆されました。未来永劫潜在的シンギュラリティのままです。

やはりこの世はクソゲーか？