マインドアップローディングを哲学しよう
このnoteでは昨年３回ほどオンラインで行った，マインドアップローディングの哲学の研究会（メンバーは，渡辺正峰氏（東京大学准教授，専門：意識科学）と信原幸弘氏（東京大学名誉教授，専門：心の哲学）と私）での考察について，ざっとまとめてレポートしたい．
この研究会では，マインドアップローディングを可能にする原理についてまとめつつ，それを実現する技術的条件，考えられる諸問題（倫理的課題など）について考察した．また，この考察結果については，去年の11月末の科学技術社会論学会で七沢が口頭発表している．
なお，この4月から，信原氏主宰で意識研究会という新たな研究プロジェクトを始めるので，その紹介も兼ねている．この会は，さらにハプティクスやウェルビーングを研究する渡邊淳司氏，マインドフルネス研究の藤野正寛氏の両氏をお迎えして活発な議論を行うのみならず，メディア媒体でその成果を報告する予定である．この会では，4-6月はマインドアップローディングを扱う予定で，このnoteにあるような内容をより深めるための議論を行う．
あくまで七沢の視点でまとめているので，文責は七沢にあることをお断りしておく．なお，七沢も，渡辺氏同様，中二病的に絶対的な死の恐怖に，小5から中2あたりにかけて深刻なほど悩まされた一人である．その後，仏教思想や瞑想に傾倒することで，徐々に解消されたのだが…．ちなみに信原氏は，そういったことには悩まされなかったようだ…．
※ 読んで不十分だとお感じになった点がございましたら，今後反映したいので，コメント欄などから教えていただけたらありがたいです．そもそもの質問でも，大歓迎です．
マインドアップローディングとは何か
そもそもマインドアップローディングとは何だろうか．SFなどで意識を機械にアップロードするシーンが，その作品のキーコンセプトとして描かれたりする．一般に，マインドアップローディングの方法としては，Copy&Paste，Delete&Pasteがあるとされるが，例えば，Copy&Pasteの例として非侵襲脳計測（トランセンデンス（2014）），Delete&Pasteの例として侵襲コネクトーム（アップロード〜デジタルなあの世へようこそ（2020））がある．
しかし，ほとんどのSFで描かれる方法は原理的な困難さを抱えている．マインドアップローディングとは，「意識をもつ心を，その数的同一性を保ちつつ連続的に、脳から機械へ移すこと」だが，とくにSFだと，「自己の同一性」を担保する方法が明確に描かれていない，または曖昧である．他者から見て連続的で同一であることを目標とした技術であるデジタルゴースト，デジタルクローンなどと呼ばれる技術とは異なり，マインドアップローディングは本来，主観的な体験をもつ自己が連続的に機械に移行することを前提としている．哲学的ゾンビの問題では？と思ったなら，まさにそこも関わる問題である．つまり，アップロード後に本人は死んで，コピーが誕生しただけならマインドアップロードとは言わないだろう．
したがって，SFをみてマインドアップローディングは不可能と判断するのは早計である．一方で，死ぬまでに確実にマインドアップローディングできると考えるのも早計である．現時点で，マインドアップローディングを実現する方法は明らかになっていないが，原理的にも不可能だと言うわけではなく，その実現のための研究も存在するのだ．さて詳しく見ていこう．
なお，マインドアップローディングで問題となる自己の同一性は「数的同一性」（同じ1つのものという意味での同一性）であり，「質的同一性」（2つのものがまったく同じ性質をもっているという意味ので同一性）ではない．デジタルゴーストなどが目指す同一性は，オリジナルとその複製の同一性であり，それは質的同一性である． 以下，「同一性」とだけ書いた場合は，数的同一性を意味する．
マインドアップローディングの原理的可能性と哲学的立場
マインドアップローディングの原理的可能性を考えるためには，まず，心の哲学の心身問題の複数の立場から検討するのがよい．
心身問題に関する立場には，二元論（デカルトなど），観念論（バークリーなど），唯物論（デネットなど）等がある．そして，唯物論の中の「機能主義」が，原理的な可能性を認める哲学的立場（矛盾なく可能だと説明できる立場）である．研究会では，信原氏の解説をもとに諸立場を検討しつつ，主に機能主義の立場から原理的可能性を検討した．
二元論や観念論の立場にたつと，物的次元とは異なる次元に，心や意識の働きの原理を見出すことになる．二元論では，物的次元と心的次元は独立であり（つまり必然的な関係がなく），観念論ではそもそも物的次元がないことになる．なので，いくら「機械」（物的次元の装置）をいじっても（観念論ではいじりようもないが）心や意識にたどり着けるわけがないので，原理的に不可能である．（SFやトランスヒューマニズムの中にも二元論的な描かれ方をしているものも多いので注意が必要である．）
次に，唯物論の立場だが，この立場だと物的次元がそのまま心的次元に反映するので，人間の脳のデータを機械（AI）に入れつつ，元の脳を消去すれば良いということになりそうだが，それで本当に心をアップロードできることになるのだろうか．ここでは，唯物論のうち代表的な心脳同一説（還元的物理主義の一つ）と機能主義（非還元的物理主義の一つ）について、心のアップロードが保証されるかどうかを検討する．
心脳同一説は，実は，心のアップローディングを明らかに不可能にする考えである．心脳同一説の場合，特定の心的現象は特定の脳作用と同一であると考える．つまり，心的状態は脳状態とタイプ的に同一となるので，脳を機械に置き換えたとき、その機械は心的状態をいっさいもたないことになる．というのも、機械は脳と異なる物質からできているので脳と同じタイプの状態をもたないからである．従って，心脳同一説では，そもそも機械が心をもたないことから，アップローディングは原理的に不可能だということになる．
一方で，「多重実現可能性」を認める機能主義の立場は，全く同じ機能を果たすのであれば物的基盤が変わっても，つまり機械に置換しても，心は持続すると考える（下図）．多重実現可能性（multiple realizability）とは，同じタイプの心的状態がさまざまな異なるタイプの脳状態によって実現されうるという考え方で，同一の機能を果たすなら人工物でも可能だと考える．したがって，機能主義の立場からはマインドアップローディングは原理的に可能になる．
（よく例えられるのが，アナログレコードとCDは物的基盤が違うが，いずれも録音するという同じ機能を可能にするというもの．一方で，音質に関する機能は異なるので質的同一性は保たれていない．）
サイボーグとトランスヒューマンの違いもこの図によって説明可能になる．
この機能主義は，クオリアは機能に還元できるという立場であり，この大胆な前提があれば，あらゆる意識体験が機能に還元でき，唯物論の観点から説明可能になるかなり強力な理論になる．しかし，そもそもそのようなまさに夢のような人工物（心を実現するのに必要な脳の機能をすべて備えた人工ニューロンネットワークなど）がじっさいに開発可能なのか定かではない．原理的な可能性を認めたとしても，それが実際に人間に作れるのかどうかはわからない．実際この問題は，解かれていない．一方で，以上から見えてくるのは，心的機能を司る機能を再現すればよいのであって，脳の全ての機能を再現する必要があるわけではないということだ．またその機能が同じであれば質的に同一である必要もない．
ちなみに，この「多重実現可能性」という前提をおくことで，意識のハードプロブレムなどで扱われているような意識の諸問題を解消することができる．しかし，そこには意識（クオリア）は機能に還元できるという大胆な前提が置かれている（この主張に関しては様々な哲学的な論争がある）．ちなみにチャーマーズは「精神物理法則」，デネットは「消去主義」，そして渡辺氏は「自然則」という技で，それぞれそこを解消しているが，それぞれの考え方の違いも検討する余地がある．
なお，いずれの方法であってもマインドアップローディングの原理的可能性を説明で，また研究会では，まずは原理的に可能であることを検討できればよかったので，それぞれの理論の原理的可能性の詳細の検討はまだ行っていない．その内容は，心の哲学の専門的議論となるので，信原氏の解説をレポートすることを検討している．
マインドアップローディングのプロセスの条件 自己の連続性・同一性の問題
次に，プロセスである．マインドアップローディングのプロセスは，その前後において自己の同一性を維持し，また意識を連続的に機械に移行する必要がある．
スワンプマン問題やテセウスの船，パーフィットの分離脳，フェーディングクオリアといった哲学的な思考実験，概念装置を用いて，または応用して，自己の同一性を維持する条件を検討する．結論として，フェーディングクオリアと同じ条件で、マインドアップローディングを行うことができれば，自己の同一性を維持する条件を満たすことになることがわかった．
自己の連続性の検討
ここでは，通常，自己の同一性には自己の連続性が必要条件になるので．同一性を論じるために，まず連続性を問題にする．ここから「デジタルスワンプマン」というスワンプマンを応用した思考実験を考えたい．（もとのスワンプマン同様無理のある設定であることはご了承いただきたい）
例えば，SF的な生命を作れる装置が可能になった世界という設定で，ある人が，コンピュータを起動した瞬間に，たまたま元の人が死に（何らかの理由でその屍も消え），コンピュータと3Dプリンターが暴走して，なぜかその人と全く同じ心と身体を持ったデジタルスワンプマンが出来上がって，いつもどおり職場にでかけて仕事をしている，というような場合．
他者からは連続しているように見えるのみならず，入れ替わって誕生した機械にも，私の完全な記憶と主観的意識がある．このような場合は，マインドアップローディングは成功したのだろうか．
この場合，その機械はもとの本人のような「来歴」を持つわけではない．本人と何の関係もなく誕生していることや，来歴がないことを鑑み，やはり自己の連続性はなく数的にも同一ではないと考えるのがよいだろう．
マインドアップローディングには何らかの連続性を保証する移行のプロセスが必要である．一瞬で全てが移行するという設定でもよいので，フェーディングクオリアのような，連続的な移行が必要なのである．
前後の自己の同一性
もしも，徐々に（つまり連続的に）脳の一部を機械に置き換えていき，最終的に全て機械になった場合，テセウスの船の思考実験にあるように，直ちにそれは元の自己と同一ではないとはいえない．同一性の条件をどう考えるかによって答えは変わる．つまり，同一性の条件によっては同一であるということが可能である．フェーディングクオリアの思考実験にあるように，人間の脳を機械に置き換える場合も，同じことが成り立つ．
コピー間の同一性
パーフィットの人格（自己）の分裂の思考実験は，ある人の脳を全く同じ二つの脳に分裂した場合のその前後での人格の連続性・同一性を問うもので，パーフィットは分離前後で連続性はあるが，同一性は失われるという．パーフィットは，マインドアップローディングの場合，オリジナルとコピーの間に連続性はあるが，同一性はないというだろう．
脳をコピーして現物が残るタイプのマインドアップローディングは，そのプロセスにおいて自己の同一性を維持できないのである．また，無限に異なる経験をする個体へと複製してしまえば，アイデンティティの同一性は確保できないだろう．
したがって，マインドアップロード時に現物と複製に分かれるような場合や，アップロード後にコピー（つまり分身）した場合，自己の同一性は維持されないということになるだろう．
フェーディングクオリア
フェーディングクオリアの思考実験は，チャーマーズが『意識する心』（邦訳 p.314-322）で展開した一つの思考実験で，人間の脳のニューロンを同じ機能を果たす人工ニューロンに一つ一つ置き換えていったならば，全部置き換わってもクオリアは維持されるだろうというものである．テセウスの船と同じような設定を前提にしているわけだが，確かにこのような場合，どの時点で同一ではなくなったかという判別は不可能となる．フェーディングクオリアと同じ条件で行うことができれば，十分に同一性の条件を満たすと考えられる．
マインドアップローディング技術の条件
次に，このマインドアップローディングを実現するための具体的な技術について考察する．
生物脳と同等の人工物
まず，脳と同じ機能を果たす人工物はどのような条件を備える必要があるだろうか．その条件は，先述の通り，現時点で明らかになっていない．またそれが明らかになるのかどうかも明らかではない．意識科学研究の成果として，いくつかの有力な仮説があるが，どの仮説が正しいかどうかを判別しようにも，意識が主観的なものである以上困難が付きまとう．
そのため，マインドアップローディングは，原理的に可能だとしても，それが技術的に将来可能になるのかどうかすら全くわからない．この点を勘違いしない方がいい．近い将来，マインドアップローディングが必ず可能になると判断することは早計である．
「機械半球アプローチ」
その機械脳の見通しが立っていなくても，プロセスを考案することはできる．渡辺氏が考案した「機械半球アプローチ」と研究会で呼んでいたプロセスを検討した．
この方法では，まず，何らかの生物脳と同じ機能を果たすと考えられる機械脳（ただし，上記の通りこれを可能にする技術はまだ存在しない）を右脳と左脳の二つ分用意し，その機械脳と人間の生物脳の左右の半球を脳梁と同じ機能を果たすBMIによってたすき掛けの形で接続し，このハイブリッドの脳に統合意識を持たせる．そして，左右の生物脳に死が訪れたときに，結果として機械脳に意識が移行するという方法である．
フェーディングクオリアは直接的に統合意識を維持したままニューロンを交換していく方法だったが，機械半球アプローチは，一旦，機械脳と生物脳を合わせた脳に統合意識を持たせた上で，生物脳の死を待つという方法である（死に際にアップロードが完了する）．
この方法が，実質的にフェーディングクオリアと同じ条件を満たすのならば，成功すればマインドアップローディングしたこととなり，また，その機械脳を作るために用いられた意識科学の理論が正しかったということになると考えられた．
以上をまとめると，
「マインドアップローディングは原理的に可能であると矛盾なく説明できる考え方が存在するが，技術的にはそもそも機械脳を実現する方法は全くわかっていない．ただし，フェーディングクオリアと実質的に同じプロセスとなるアプローチであれば，マインドアップローディングのプロセスとして有効だといえる」
といったところになる．
マインドアップローディングしたらどうなるのか？
最後に，マインドアップローディングの意義やアップロード後についても，かんたんに検討を行ったのでその内容を報告したい．この内容は，4月からの研究会で本格的に扱う予定である．
マインドアップローディングは不死のための技術？
マインドアップローディングは，人間の不死の欲求を実現するための技術として語られることが多い．また，トランスヒューマニストが典型的に抱く願望の一つであるとされている．
もちろん，不死の願望を持つものは多い．自己の消滅は，生物である限り避け難い宿命だが，生きている間に感じる自己の消滅の恐怖もまた避け難いものだったりする．一方で，自然に死ぬことがよいと考える人も多い．マインドアップローディング後に想定される，永遠に死ねない可能性や，死を自分で選択せざるを得なくなる状況が苦痛となる人もいるだろう．したがって，不死は誰しも持つ願望ではない．では、マインドアップロードは、一部の死を恐れる者たちが，その恐れを克服できないが故に実現しようとしているのだろうか．しかし必ずしもそういうわけでもないだろう．
マインドアップローディング研究は，先述の通り，また渡辺氏が主張するように，意識科学研究において，主観的意識（クオリア）を解明するための一つの重要なアプローチとなりうる．また，（本来の意味での）人工知能の実現は機械脳の実現を意味するので，マインドアップローディングは，1950年代以降人類が夢見てきた，人工知能の実現のための純粋な知的好奇心による基礎研究の先に，自ずと見えてくる景色でもある．つまり，避けがたく，また人類が存続する限り未来に向けて重要度が高まっていくテーマの一つなのだ．
マインドアップロード後の問題
次に，マインドアップロードした後について考えてみたい．
・不死の制限の可能性
誰しもがマインドアップローディングする社会は，様々な困難さを抱えると予想される．例えば，マインドアップロードした個体を維持するのに必要な膨大なエネルギーの問題や，社会にそのような個体が増えすぎることで，個体間の社会関係が維持できなくなる可能性がある．
もちろんそれらの問題が，飛躍的に進化した発電技術やAI，予想もできなかったような新たなテクノロジーによって，解消すると夢を託すことはできる．しかし，「不死」を前提とした場合，不死を実現するための管理コストは無限となる（正確には地球の消滅まで，または地球を脱出したとしたなら宇宙の消滅まで…?のコスト）．それを実現するテクノロジーを想定するのはなかなか困難である．
一方で，不死が可能になっても，死を選ぶことも可能である．またアップロードした人を生かすための社会コストを考慮してアップロード後の寿命を制限することもあり得るだろう．
・人間ではなくなるということの意味
ここまで扱ってこなかったが，マインドアップロードの前後で，自己の同一性や連続性が保たれたとしても，その「存在」のあり方は根本的に変わってしまう．端的に言えば，「生命ではなくなり機械になる」のである．人間は生命であるとするなら人間ではなくなる（トランスヒューマンになると言われる）．
機械（トランスヒューマン）になったのなら自己の同一性や連続性も成り立っていないのではないかと，再び疑問に思われるかもしれないが，もう一度，機能主義の「多重実現可能性」や「フェーディングクオリア」，自己の同一性だけではなく連続性も必要になる点の説明を読んでほしい．まず（技術的な実現可能性はさておき）この前提では，（少なくともマインドアップロードした時点では）生命だった時の心的機能は全て維持され，また意識を維持したまま連続的に機械に移行する．当然，主観的意識は何も変わらないのだ．しかし，脳と身体が機械になっている．そのため，アップロード後に，光の速さでの複製・分裂・合体なども潜在的に可能になってしまう．こうした生命にはない機能を可能にしていくと，心的機能も当然生命だった時のものとは大きく変わってくるだろう．
そのようなトランスヒューマンのより善いあり方，つまり「ウェルビーイング」についての考察は十分に議論されているとは言えない．原理的に可能であると考えるなら，その可能な未来についての善いあり方をどう実現できるのかも考えるべきだ．その善いあり方が実現できないのなら，マインドアップローディングには反対の立場となる．
考察した上で，より善いあり方をすることが可能だということにならなければ，マインドアップローディングする意義が薄れていくだろう．
雑感
ざっと以上であるが，正直，書いている本人の七沢はまだまだ消化不良である．マインドアップローディングの哲学は，意識やテクノロジーにまつわる興味深い論点が山盛りで，その探究は興味深いが，正確に議論するには心の哲学の諸理論をしっかり理解する必要があり，なかなかハードルが高い．
一方で，例えば，テクノロジーの哲学の観点からも重要なテーマでありまして，「トランスヒューマン」や「人間機械論」などなどについて考察するためのよい材料となる．
ところで，皆さんは，マインドアップローディングしてみたいだろうか．また，この記事を読んでも，いやー無理っしょ，できるわけない，と思っているかもしれない．
ちなみに，私は，マインドアップローディングしたいとか，したくないとか，すべきだとか，すべきでないとか，意見を定めていないし定める予定はない．以前は，そんなの無理だしやりたくない，と考えていたが，今の感覚としては，その意見を定めてしまうのはもったいない，という感じ．
ここ数年，テクノロジーの哲学を深堀りする中で，テクノロジーがより生命的に，生命がよりテクノロジカルなものとして再解釈されてきた．もしかしたら遠い遠い未来にその融合が起きるのかもしれない．その可能性を背景にして，テクノロジーを語ることで，初めて豊かに現代のテクノロジーを語れるんだと気づいた．テクノロジー論の奥の院であり，深遠なるテーマなのだ．
4月からの研究会でより深めていきたいところだ．
文責：七沢智樹
参考文献
「意識する心」チャーマーズ
「理由と人格」パーフィット
「脳の意識 機械の意識」渡辺正峰
「心の現代哲学」信原幸弘
「技術哲学講義」クーケルバーク
“A Taxonomy and Metaphysics of Mind-Uploading”, Keith Wiley.
この記事が気に入ったらサポートをしてみませんか？