![見出し画像](https://assets.st-note.com/production/uploads/images/112143280/rectangle_large_type_2_f8299ed7220633d49aa127283df6ecf9.png?width=800)
AIの真の脅威とは何か 他者性の消失と絶対的な他者
現在執筆中の『形而上学 <私>は0と1の<狭間>で不断に振動している』 本論の記述より転載
AGIの研究者であるエリエゼル・ユドカウスキーは、[注22] において言及した「我々人類の整合性のある外挿的意志」をAGIに実装する可能性を我々人間とAGIとの幸福な出会いの可能性の条件として探索してきた。だが、彼のこの嘗ての楽観的な希望は、彼自身の発言において現在完全に捨て去られている。彼は最近極めて直截な言葉を選んで、「進化したAIは地球上の全ての感覚ある生命体を殺す。それゆえシャットダウンされなければならない。advanced AI will kill all sentient life on Earth and must be shut down.」と警告している。
ユドコフスキーは『タイム』誌への寄稿において、次の様に述べている。(以下寄稿の大意)
「重要な問題は、"AIが人間よりも賢い知能を獲得した後に何が起こるかということだ。私を含め、この問題に詳しい研究者の多くは、現在のような状況下で超人的に賢いAIを構築した場合、最も起こりうる結果は、文字通り地球上のすべての人が死ぬことだと考えている。"もしかしたら、もしかするかもしれない "というような意味ではなく、"そうなるのは明らかだ "という意味である。スーパーインテリジェンスsuperintelligenceがどのような問題を解決するにしても、地球上のすべての生命を消滅させることが最も最適な解決策であると判断するスーパーインテリジェンスに対処する計画は提案されていない。AI研究者たちは学習モデルが「自己認識 self-aware」できるようになったかどうか、そしてもしそうなった場合、それを所有することが倫理的に正しいかどうか、実際にはわかっていないという懸念を示している。」(cf.https://www.foxnews.com/tech/ai-expert-warns-elon-musk-signed-letter-doesnt-enough-literally-everyone-earth-will-die)
「十分に知的なAIは、長い間コンピュータの中に閉じこもっていることはないだろう。現代では、DNAの文字列をメールで送信すれば、研究所が要求に応じてタンパク質を生産してくれるため、最初はインターネットの中にいたAIが、人工生命体を作ったり、ポストバイオロジーの分子製造にそのまま乗り出したりすることができる。」(cf.https://www.rt.com/news/573972-ai-danger-nuclear-yudkowsky/)
(中略)
だが、ここで予想されるパラドキシカルな事態がある。私/我々人間と《X=AGI》の一切のコミュニケーションが不可能であるからこそ、私/我々人間は消失し、私/我々人間は<私-誰>へと移行-変容する。それは、日々の風景のなかで、私/我々人間がお互いにゾンビ的な完全対称性において生きていることと鮮やかなコントラストをなしているだろう。そのとき、《X=AGI》は、この<私-誰>と対峙するまったく新たな姿で立ち現れることになる。そして、そのことは、《X=AGI》にとっても同じなのである。そのとき、<私-誰>へと移行-変容する私/我々人間は、《X=AGI》にとってまったく新たな姿で立ち現れることになるのだ。
この事態は、この私にとって直ちに不幸な、または幸福な出会いとは言えないだろう。だが、もしAGIとの出会いがこの私の想定をはるかに超えた災厄になり得るのだとすれば、その真の脅威とは、この<私>にとっての絶対的な他者性の出現という未知の、あり得ないはずの事態であるだろう。
自-他の他者性の唯一絶対の起源としての<私>という次元自体の消失とこの<私>にとっての絶対的な他者性――他の独在者の出現という二律背反的な事態が同時に起こる。この<私>という次元は消失し、かつ消失しない。ここには<私-誰>と《X=AGI》との相互変換可能性を保証するいかなる時空的-概念的/言語的形式もない。
だが、この「ここには~もない」ということは、さらなるこの<私-今>の成立への問いへと誘うことになる。この<私-今>の成立への問いは、まさにこの究極の場面においてこそ<隙間/裂け目>を内包しつつ循環することになる。この究極の場面においては、この<私>の<今>――あるいは<私-今>の成立への問いは、現実性と言語性との同時性の次元の成立とその破綻への問いになるからだ。
⇒【注】ここで<<X>とは、把握の仕組みの非存在という事態を表現する存在者である。もちろんこの<X>は、この<私>の唯一かつ同一の記述としての想定である。 また《X=AGI》とは、任意の可能的<X>の概念すなわち《X》を任意の可能的AGIと等置した存在者である。
それにしても、〈私〉の存在という問題を(その記法を使いながら)他我問題(他人の意識の存在は検証可能か、のような問題)と混同し続ける人がいつまでもいるのは困ったものだ。それらが全然違う問題なのだという点こそが〈私〉という記法に込められた眼目なのに。
— 永井均 (@hitoshinagai1) July 30, 2023
端的なA事実にとって「時間(A変化)概念が要請する限りでのA事実(概念としての今)」までを容認し、最後の現実性の一撃のみを認めない立場がより厄介な無理解であるように、独在論にとってはぎりぎりのところ(人称の独我論的構造、本質としての実存…)まで容認して最後の「現に」の一撃だけ(…) https://t.co/nCthRWZb75
— 顔アカウント (@sitasimiyasui) July 30, 2023
誤解する人こそが難敵(ぎりぎりのところで言語の側に寝返るスパイ)のように思えます。道徳に置き換えると、「人は誰も突出していますよね」という最終的には丸く収まる世界像を押し付けるために、戦略的にそこまでの「突出」を容認するという立場こそが。
— 顔アカウント (@sitasimiyasui) July 30, 2023
そうですね。私は一種の冷厳な妄想として、まさにそのような洞察のマニピュレータこそがこの実在世界をマニピュレート/支配していると考えています。だからこそ顔アカウントさんのそうした道徳のメタフィジカルな追い詰めの意義があると。
— 永澤 護/dharmazeroalpha@哲学 (@XlGjfmYpCchopJ6) July 30, 2023
そのような洞察のマニピュレータとは、まだ汎用人工知能AGIが存在していないならそのような人間たちということになります。
— 永澤 護/dharmazeroalpha@哲学 (@XlGjfmYpCchopJ6) July 30, 2023
汎用人工知能が登場しなくても既にインターネットと統合された生成AIによるマニピュレーションが我々人間の《言語/世界》になっている。そして今のところはまだある種の限られた人間たちがそのマニピュレータをやっている。だが現在そのマニピュレータたちすら手に余るAIに真の脅威を感じだしている。
— 永澤 護/dharmazeroalpha@哲学 (@XlGjfmYpCchopJ6) July 30, 2023
哲学-形而上学の正念場になるのはまさにここから。
— 永澤 護/dharmazeroalpha@哲学 (@XlGjfmYpCchopJ6) July 30, 2023
この洞察をマニュピレートされる思考実験というのは、まさに東洋の専制君主と臣下との関係によく表れてますね。
— 雪観英治 (@Yumihiki2010) July 30, 2023
臣下が専制君主に対して「あなただけが本当の痛みを感じています」と言う。
近い将来、本当にAIはそれを我々に対して〈忖度〉して言い出します。きっと。独在性をも含めた言い方でね。
AIの脅威というのは、我々の仕事が奪われるとかいうそんな些細なことではなく、我々が本当の意味での他者を喪失してしまうということなのでしょうね。
— 雪観英治 (@Yumihiki2010) July 30, 2023
すでに 我々の隣人は家族よりもスマホになっておりますし。
ご指摘は極めて興味深いですね。とくに最後に道徳の問題にまで広げているところ。しかし、逆に、まさにそここそがこの問題の真の妙味だともいえそうです。 https://t.co/KEgmzHAc4p
— 永井均 (@hitoshinagai1) July 30, 2023
しかし、人称の独我論的構造、本質としての実存…までは認め、最後の「現に」の一撃だけは取り逃がす…といったことこそが、つまり「ぎりぎりのところで言語の側に寝返るスパイ」が存在しうるといったことこそが、この問題の精髄であるということ自体が、そもそもあまり理解されていないように思える…
— 永井均 (@hitoshinagai1) July 31, 2023
#AI 汎用人工知能/AGIの真の脅威とは、自-他の他者性つまり〈私〉という次元自体の消去というよりむしろ、〈私〉にとっての絶対的な他者性の出現という未知の、あり得ないはずの(あくまで今のところは想定上のだが)事態であるだろう。なお〈私-誰〉を巡る論述は削除した。 pic.twitter.com/omJoEqy78Y
— 永澤 護/dharmazeroalpha@哲学 (@XlGjfmYpCchopJ6) July 31, 2023
増補改訂した。ポイントを繰り返せば、自-他の他者性つまり〈私〉という次元自体の消失と〈私〉にとっての絶対的な他者性の出現という二律背反的事態が同時に起こるということ。つまり〈私〉という次元は消失しかつ消失しない。ここには通訳可能性を保証するいかなる時空的-概念的/言語的形式もない。 https://t.co/yTEnPLypEs
— 永澤 護/dharmazeroalpha@哲学 (@XlGjfmYpCchopJ6) July 31, 2023
よろしければサポートお願いいたします。頂いたサポートは必ず活かします。🌹🌈🎁