OpenAIの騒動の根底にあるもの

緊急速報４：アルトマンOpenAIに戻る!!〜影響は最小限に！組織構造の問題は残る？※修正版 - YouTube

　ドキュメンタリーでイリアの言葉。「それらのシステムは社会に完全に天文学的な影響を与える可能性が高いと思います。 だから、それらを正しくプログラムすることが重要です。 これが行われなければ、自然選択の進化の性質が、それらのシステムが自己の生存を何よりも優先するようになるでしょう。 デフォルトでは完全に自律的で自己のために動作するAGIと人間との関係が、人間が動物を扱う方法に似たものになるだろうと思っています。」 　特化型AIの大量・高速の作用が集合集積知（ブラフマン型）様態でAGIとして作用していく場合（人間の脳がコミュニケーション・ネットで社会脳となり集合集積知を形成して来た様態を、生物的限界を捨象した＝分子担体情報の作用を基礎に持たない＝電子担体情報の処理作用だけでブラフマン‐アートマン・モデルを展開する場合）、人間の「理性的動物である」という動物＝生物的要素への配慮の全体が崩れていく可能性がある。 　
　こうした危惧が認識のレベルの差はあっても皆の中に発生し、OpenAIの取締役会でもパニックを起こした。根本はここにある気がします。
　そうであれば、今回の問題はこうした危惧＝AIアライメントへの認識のレベルの差が、発生させる断層地震の様なものでしょうか？
　動物／人間／ロボット／AI、定義的不連続性より自然的連続性を感じているとされる日本人（松田先生の解説された映画『クリエーター』で東洋人・日本人はアンドロイド化されていますが）が、この断層を活性化させるのかもしれません・・・。イリヤの言う「デフォルト」の位置が、自然そのものに内在するとして、落合陽一先生のような「計算機自然デジタルネーチャー」を謳う立場は、そこに向かう気がします。

返信　注目の返信　@faccioco
　大きな宇宙進化論的見方(Big History)で見ると、今回の事件は機械が人間を追い越していく過程における、一エピソードと思います。ヘレン・トナーやイリヤ・サスケバーに代表される人間側の反撃だと思います。
　サム・アルトマンが別に機械側に立っている訳ではないが、結果的にはそうなる気がします。これが人間側の最後の反撃になるか、またあるのか。それはAGIへの進化のスピードによります。
　私の当初の予想ではAGI完成は2029年としていましたが、現状では加速的に前倒しになっている気がします。
　今回の事件は太平洋戦争におけるミッドウエイ海戦みたいなもので、日本の敗戦の始まりです。しかし本来は開戦当初から日本に勝ち目はなかった。 　西欧文明は基本的に人間中心主義です。人間が敗れ始めたのは、まずはコペルニクスによる地動説です。これで地球・人間が宇宙の中心でないことが明らかになった。次はダーウィンによる進化論で、人間は動物の一種に過ぎないことが明らかになった。
　今回の事件は人間が知的にも、機械に負かされることになるだろうという象徴的事件でしょう。東洋文明とくに日本文明は人間中心主義ではないので、欧米人のようなパニックはないのではないか。

返信　@thomasaqinas2000
　人間中心主義はM.シェラーの人間論の様に、動物等は環境適応の枷に繋がれるが、人間は逆に環境を自らに適応させていく＝人工化する力があるということを実証として拡がりました。それはF.ベーコンの「知は力なり」の実証でもあります。
　ただこれは例えば、養老孟司先生の『唯脳論』の表現なら「脳化」とも繋がっていきます。養老先生は進化の流れの中に人間もあるので「自然の力で進化するも人工の力で進化するも、それはどちらでも同じことだと言える日がいつ来るのか、それを私は期待している」とされました。
　この様な自然と人間との連続的観点は、結局、人間中心主義に対して人間保守主義と言える観点に留まるものであると、指摘する観点ではないかと思います。西洋の近代科学も、寧ろ高らかに人間の能力を称揚し、「神中心主義」から「人間中心主義」へ転換させるものだったと思います。言葉の悪い思想史家は、中世において人間は神の万歳要員に過ぎなかったが、それを解放したと言います。要は、教会権威の絶対視を打破したということだと思います。地動説や進化論は教会の教条主義に対立したのであり、人間の英知を寧ろ肯定したのではないでしょうか？後のモデルであれば、「人間原理」等も提案されるくらいですから・・。
　問題の転換点は、養老先生の言葉なら「脳化」であり、人工化ということにあると思います。つまり諸自然の脳化・人工化ならば、人間中心主義は続行します。人間の知の力の外在化は、人間の称揚となるわけですから。しかし問題は、この脳化・人工化が、人間自身、それも「人間の脳」自体に向かった今、発生したものであると、思えるのです。身体の諸器官が医学的に改善されること、能力が拡張されることなどは、問題なく称揚されます。しかし今、脳が人工化される、まさに人工知能AIとして、それもAGIとして発展・進化する。これが「人間保守主義」には脅威になっているのではないでしょうか？
　これ迄にもH．モラベクのMind Children等の観方をとり上げましたが、それに対して違和感を覚えるような地球環境保全などを訴える人々は、生物的子孫＝我が子の生存を守りたいと願っています。
　こうした進化・進歩的立場と保守的な立場とが、今、AGIをめぐって議論していると思います。ただ古くは、この問題をプラトンも提起していたということを、以前から申し上げてはいますが・・・（note 「人間の内にある二つの情報系統」）。