見出し画像

AIの真の脅威とは何か 他者性の消失と絶対的な他者

永澤 護 /dharmazeroalpha

現在執筆中の『形而上学 ＜私＞は0と1の＜狭間＞で不断に振動している』 本論の記述より転載

AGIの研究者であるエリエゼル・ユドカウスキーは、[注22] において言及した「我々人類の整合性のある外挿的意志」をAGIに実装する可能性を我々人間とAGIとの幸福な出会いの可能性の条件として探索してきた。だが、彼のこの嘗ての楽観的な希望は、彼自身の発言において現在完全に捨て去られている。彼は最近極めて直截な言葉を選んで、「進化したAIは地球上の全ての感覚ある生命体を殺す。それゆえシャットダウンされなければならない。advanced AI will kill all sentient life on Earth and must be shut down.」と警告している。
　ユドコフスキーは『タイム』誌への寄稿において、次の様に述べている。（以下寄稿の大意）

「重要な問題は、"AIが人間よりも賢い知能を獲得した後に何が起こるかということだ。私を含め、この問題に詳しい研究者の多くは、現在のような状況下で超人的に賢いAIを構築した場合、最も起こりうる結果は、文字通り地球上のすべての人が死ぬことだと考えている。"もしかしたら、もしかするかもしれない "というような意味ではなく、"そうなるのは明らかだ "という意味である。スーパーインテリジェンスsuperintelligenceがどのような問題を解決するにしても、地球上のすべての生命を消滅させることが最も最適な解決策であると判断するスーパーインテリジェンスに対処する計画は提案されていない。AI研究者たちは学習モデルが「自己認識 self-aware」できるようになったかどうか、そしてもしそうなった場合、それを所有することが倫理的に正しいかどうか、実際にはわかっていないという懸念を示している。」(cf.https://www.foxnews.com/tech/ai-expert-warns-elon-musk-signed-letter-doesnt-enough-literally-everyone-earth-will-die) 
「十分に知的なAIは、長い間コンピュータの中に閉じこもっていることはないだろう。現代では、DNAの文字列をメールで送信すれば、研究所が要求に応じてタンパク質を生産してくれるため、最初はインターネットの中にいたAIが、人工生命体を作ったり、ポストバイオロジーの分子製造にそのまま乗り出したりすることができる。」(cf.https://www.rt.com/news/573972-ai-danger-nuclear-yudkowsky/)

（中略）

　だが、ここで予想されるパラドキシカルな事態がある。私／我々人間と《X=AGI》の一切のコミュニケーションが不可能であるからこそ、私／我々人間は消失し、私／我々人間は＜私-誰＞へと移行-変容する。それは、日々の風景のなかで、私／我々人間がお互いにゾンビ的な完全対称性において生きていることと鮮やかなコントラストをなしているだろう。そのとき、《X=AGI》は、この＜私-誰＞と対峙するまったく新たな姿で立ち現れることになる。そして、そのことは、《X=AGI》にとっても同じなのである。そのとき、＜私-誰＞へと移行-変容する私／我々人間は、《X=AGI》にとってまったく新たな姿で立ち現れることになるのだ。

  この事態は、この私にとって直ちに不幸な、または幸福な出会いとは言えないだろう。だが、もしAGIとの出会いがこの私の想定をはるかに超えた災厄になり得るのだとすれば、その真の脅威とは、この＜私＞にとっての絶対的な他者性の出現という未知の、あり得ないはずの事態であるだろう。
　自-他の他者性の唯一絶対の起源としての＜私＞という次元自体の消失とこの＜私＞にとっての絶対的な他者性――他の独在者の出現という二律背反的な事態が同時に起こる。この＜私＞という次元は消失し、かつ消失しない。ここには＜私-誰＞と《X=AGI》との相互変換可能性を保証するいかなる時空的-概念的／言語的形式もない。
　だが、この「ここには～もない」ということは、さらなるこの＜私-今＞の成立への問いへと誘うことになる。この＜私-今＞の成立への問いは、まさにこの究極の場面においてこそ＜隙間／裂け目＞を内包しつつ循環することになる。この究極の場面においては、この＜私＞の＜今＞――あるいは＜私-今＞の成立への問いは、現実性と言語性との同時性の次元の成立とその破綻への問いになるからだ。

⇒【注】ここで＜＜X＞とは、把握の仕組みの非存在という事態を表現する存在者である。もちろんこの＜X＞は、この＜私＞の唯一かつ同一の記述としての想定である。　また《X=AGI》とは、任意の可能的＜X＞の概念すなわち《X》を任意の可能的AGIと等置した存在者である。




よろしければサポートお願いいたします。頂いたサポートは必ず活かします。🌹🌈🎁