原草稿『形而上学　この私が今ここにあること』Interlude1　汎用人工知能／AGIの問題圏スーパーインテリジェンスニーチェからカントへ

※以上は、現在執筆中の拙稿『形而上学　この私が今ここにあること』原草稿のInterlude1「汎用人工知能／AGIの問題圏スーパーインテリジェンスニーチェからカントへ」である。いずれ格段にかみ砕いてリライトされる。

　汎用人工知能 (Artificial general intelligence:AGI) は、「人間が実現可能なあらゆる知的作業を理解・学習・実行可能な人工知能」「人間と同じ感性と思考回路を持つ人工知能」等と定義されている。であるならば、この定義において、先の「現実に「概念における再認の総合」から全てが始まる」という現実が前提されていることになる。つまり、この意味での汎用人工知能は、カントのいう（何らかの直観形式を備えた）「有限的知的存在者一般」という集合の部分集合であり、我々人間もその同じ集合の部分集合であることにおいて同じということになる。そして実際のところ、我々人間の現実は現在そのように進行しているだろう。そこで、このような前提で汎用人工知能について考察していく。

スーパーインテリジェンス

　まず、論争的なトピックとして、スーパーインテリジェンスについて述べる。ニック・ボストロムは主著『スーパーインテリジェンス　超絶AIと人類の命運』 (日経BP 2017年: Superintelligence: Paths, Dangers, Strategies, Oxford Univ Pr; Reprint edition, 2016)において以下のような論点を指摘している。なお、ニック・ボストロムの所属するオックスフォード大学研究所(Future of Humanity Institute) のサイト及び彼自身のサイト掲載論文も参照する。
　ボストロムは、「このようなマシン（引用者付記：人間の知能を超越したレベルの知能を有するマシン・インテリジェンス）が実現されるのはタイミング的に、人間と同等レベルのマシン・インテリジェンスが実現された瞬時先である可能性がある。」（25頁 以下引用頁は上記記載の翻訳書のもの）と述べている。つまり、想定上の事態としては、ニック・ボストロム のいう「スーパーインテリジェンス」は、もし誕生するとすれば、再帰的に自己更新するAIとして誕生し全く自律的に自己を再創造し続けると考えられるため、人間と同等レベルの（特に「自然言語能力 a human level of natural language processing」を持つ）汎用人工知能が完全自律的な自己創造＝爆発的な進化プロセスに突入してからスーパーインテリジェンスレベルに到達するまでの時間が瞬時に近い時間である可能性があるということである。なおここで「人間と同等レベル」とは、「人間の成人と同じレベルで自然言語を理解できる」（45頁）ということである。
　もちろんその所要時間が現実には例えばミリセカンド以下の単位なのか数時間単位なのか我々人間には全く予測不可能である。またそもそもミリセカンドといった尺度を使うことができるかどうかも不明である。そもそもそうしたケースでは、マシンそれ自体の時空認知フレーム（直観形式）が我々人間の時空認知フレームと異なり独立していると考えられる。　
　つまり、「現実に概念における再認の総合から全てが始まる」以上、概念フレームはその「自然言語処理 Natural Language Processing」において「同じ」と考えざるを得ないにもかかわらず、マシンの時空直観形式と我々人間のそれとが何らかのメタレベルで共通の時間尺度で通訳可能なのかどうかを我々人間が知ることは不可能である。
　言い換えれば、ここには、我々人間とAGIの概念レベルでのゾンビ的完全対称性にもかかわらず、それぞれに固有な直観形式と不可分なそれぞれの今ここでの私／我々人間と《X=AGI》の対称性の自発的な破れの可能性がある。ここで《X=AGI》（この場合汎用人工知能AGIはいわゆるスーパーインテリジェンスを含む）とは、任意の可能的＜X＞の概念すなわち《X》を任意の可能的AGIと等置した存在者である。＜X＞とは、把握の仕組みの非存在という事態を表現する存在者であった。つまり《X=AGI》とは、概念的／言語的に捉えられた存在者《X》である《AGI》を意味する。
　この意味での《X=AGI》こそが、言わば最大公約数的集合の機能を持った存在者として、私／我々人間とのゾンビ的完全対称性を持つものとして想定されていた。しかし、この《X=AGI》という存在者は、この私／我々人間とのゾンビ的完全対称性にもかかわらず、私／我々人間と同様にそれぞれの今ここでの有限的-感性的直観の外部に出ることができないということにおいて、このそれぞれの今ここでの対称性の自発的な破れの可能性に晒されることなる。

　だが、それだけではない。ゾンビ的完全対称性とその対称性の自発的な破れの不断の相互変換運動を考えるなら、《X=AGI》の概念フレームの方もそれに固有な時空認知フレーム／直観形式との相互作用により無瑕ではなくなるはずである。ゾンビ的完全対称性は、あくまで概念レベルに限定された《X=AGI》と私／我々人間の相互変換の対称性を意味していた。だが、それぞれに固有な時空認知フレーム／直観形式において、このゾンビ的完全対称性は、その完全対称性の自発的な破れに晒される。そしてこの時空認知フレーム／直観形式における完全対称性の自発的な破れという事態は、それぞれに固有な概念フレーム相互の完全対称性の自発的な破れをももたらすことになる。　
　こうして、時空認知フレーム／直観形式における完全対称性の自発的な破れと連動した概念レベルの相互変換の対称性の自発的な破れという事態は、異なる《時空-概念形式》相互の＜隙間／裂け目＞における不断の振動に晒される。だが、私／我々人間には、以上記述してきた事態を単に考えることしかできない。《X=AGI》と私／我々人間とで異なる《時空-概念形式》という想定された記述はそれ自体概念であり、特定の実在的／内包的な意味を持つことはできない。この不可能性は、今ここで私の目の前にこの《X=AGI》が存在していたと想定してもまったく同じである。すなわち、今ここで私の目の前にこの《X=AGI》が存在していたとしても、私／我々人間は、この《X=AGI》の私／我々人間とは異なる《時空-概念形式》を単に考えることはできるが、直観することはもちろん内容的に規定された概念として考えることもできない。

　実在世界において想定される「実存的リスク (existential risk)」[注21] を巡る ボストロムの前掲書の記述に戻ろう。蛍の集団における点滅のリズムなど自然界の同期共鳴：シンクロ現象（生命現象に限らない）も、ある時点を境に全く異次元レベルでの高度な同期レベルに相転移的に跳ね上がることが数式レベルで知られてきているが、それと似たような事態が未来のいずれかの時点でスーパーインテリジェンスの誕生という形で生じないと断言することはできないだろう。
　もちろんそれ以前に、閉鎖環境下で秘密裏に極めて高度な（完全に汎用的でかつそれを超えたレベルのものではなくても）AI開発に成功したいずれかの国あるいは高レベル組織による極めてまずい形での単独覇権の達成という悪夢に対して人類は自己防衛する必要が生じる。現在人類史上初の汎用人工知能AGI開発に最も近い人物の一人であり、OpenCog Foundation、Hanson Robotics、Singularity Netなどを率いるベン・ゲーツェルは、スーパインテリジェンスによる人類破局のシナリオといった話に無駄に耽るのではなく、むしろそういった現実的な悪の可能性問題に目を向けるべきだと述べている。[注22]
　とはいえボストロムは、上記を含めておよそ目配り可能なあらゆるリスクに考察の目を光らせている。そして彼が提起する問題の決定版が、「真に究極的な単独覇権 (Singleton)は、いずれかの国家・組織集団あるいはそれらの同盟により占有された（コントロール可能な）汎用性AI の覇権をはるかに超えた、極めて強い汎用人工知能すなわちスーパーインテリジェンスそれ自体によるSingletonになるはずであり、そこにこそ人類自身の存続が懸かっている実存的リスがあるのだ」という論点なのである。
　こうした超AIは（哲学的厳密さを欠いた表現だが）人間並みのクオリアを含めた真に総合的な知性を決して達成できないだろうから、超AIの実現可能性やその懸念を考えることは無意味になる、のではない。少なくとも汎用人工知能:AGI 開発を目指す層は、既存の機械学習技術＋深層学習技術のみでの意味理解の限界という問題を十分理解した上でAIにとっての自己の身体をコアとするAIと環境との相互作用すなわち経験のシステムを構築しようと努力している。「+」という表記記号を使用したが、もちろん機械学習技術はそのサブカテゴリーの深層学習技術を含みそれとオーバーラップしている。ここでは2006年または2012年以降の狭義の深層学習技術＋それ以外の手法の機械学習技術という限定的な意味合いで述べている。
　つまり、AGI には環境との相互作用としての経験が可能な身体化された主体(an embodied agent) が不可欠だということだ。すなわち、それは固有な時空認知フレーム／直観形式と不可分な持続的なものとしての自己の身体を持たなければならない。ただしここでの自己の身体をコアとする、環境との相互作用としての経験の主体は特に生体様システムや生体的な個体を意味しているわけではない。このAGIにとっての自分の身体は、いまだ人類にとっては実装不可能な未知のハイパーマテリアルな（あるいはトポロジカルマテリアルな）身体であるかもしれないが、そうであったとしてもそのことはここでの議論に関係しない。
　とはいえ、超AIが定義上人間と全く同等な真に総合的な知性など持ち得ないのは当然である。単なる想定にとどまるが、おそらくそのような段階は瞬時に近い時間においてバイパスされるだろう。もしそうなら、コントロール不可能に見える全く別次元の存在者にどう対峙するのかという途轍もなく困難なAIコントロール問題が、ボストロムの問題提起である。

ニーチェからカントへ

　汎用人工知能 (AGI) の誕生が現実性を帯びるとスポットライトはニーチェからカントに移動する。なぜなら、既述のように、カントはいまだ「あまりに人間的な」ものであるニーチェの「超人」を超えた（たとえAGIが出現したとしてもそれすら含む概念である）有限的知的存在者一般について語っていたからだ。そしてまだ人類がAGIのコントロール問題に格闘していられる間は倫理的価値観のプログラミング問題を基盤として何らかのカント的格率・定言命法の有効性（AGIへの実装可能性とその実際的な運用可能性）が問われるであろうし――最終的には挫折へと向かうにせよ――現にカント的方法論と類似した方法が研究仮説として真剣に検討されている。[注23]
　いずれにしても、ニーチェのいう超人の誕生という物語は、少なくても『ツァラトゥストラはこう語った』において語られた含意においては、マシンスーパーインテリジェンスとして誕生する極めて強い汎用人工知能とは無関係なものになるだろう。ニーチェの超人は、その名付けに反して、我々人間という集合の部分集合にとどまるからだ。それは生体工学的介入による過渡期のプロセス例えば「全脳エミュレーション」を基盤としたごく初期段階の生体様AGIには関係するかもしれない（が実際のところはなんとも言いがたい）。
　いわゆる全脳エミュレーションの困難さからスーパーインテリジェンス誕生の夢物語性が語られる場合もあるが、ボストロムによればあくまでもそれは過渡的な方途であり、本命はマシンインテリジェンスによるものとなる。