知能と限界

いまできることを前提に自分たちがやることを限界づけてしまう発想はキライだ。
そういう話を聞くと、気持ち悪くもなる。

何でもかんでも無謀なチャレンジをしろとも一切思わないけれど、やりたいと思うことがあるなら、いまできるかどうかで簡単に諦めたりしない方がよい。
どうやったらできるようになるかプランを検討してみたり、小さくチャレンジすることを積み重ねて目標に届くよう試してみた方がいいと思う。

結局、それも自分でやりたいことを作れる想像力があるかないかということとも関係しているのかもしれないが、やれるかどうかより先に、何をやりたいかを自分に常に問える姿勢が大事だと思ったりする。
何にワクワクするかありきで、であれば、次に何ができた方がいいか、どうするとできるかという順番で展開できれば、限界なんてそうそう浮上しないはずである。

限界ベースの思考は明らかにワクワクが不足している。

限界はない

普段からそんな風に思ってるからだろう。
マックス・テグマークが『LIFE3.0』で書いている、こんな記述に殊の外ワクワクさせられるのは。

これまでに私の心をもっとも掻き立てた科学的発見は、我々が生命の未来の可能性を大幅に過小評価していたと明らかになったことである。生命が数100年続いたのちに病気や貧困や混乱によって途絶えるというシナリオのみに、我々の夢や希望をとどめておく必要はない。生命はテクノロジーの助けを借りて、太陽系の中だけでなくこの宇宙全体で、祖先が想像していたよりもはるかに壮大にめくるめく形で何10億年も繁栄する可能性を秘めている。限界はないのだ。

可能性の過小評価していたことを発見して、心を掻き立てられる。という、このこと自体、いいなと思うのだ。
人間という生命の環世界のなかでの限界も、人間を超えた知能をもつ超知能生命の環世界では何の限界にもならないのだということを、人間の頭のなかでも想像することはできる。
そのことに気づくことで心が掻き立てられるということが健全だと僕は感じる。

そして、僕自身、この言葉からはじまる「宇宙からの恵み――今後10億年のさらにその先」と題された第6章に描かれた、宇宙の未来の想像を絶する無限の可能性に大きく心を動かされた！

「いつか人間レベルのAGIを作ることに成功したら、知能爆発が起こって我々は大きく後れを取るだろう」とテグマークはいう。
AGIとは、汎用型AIのことで、現在の囲碁のチャンピオンに勝つAIや自動運転車のAIのようにある限定された用途で人間以上の知能を発揮する特化型のAIとは異なり、人間同様に状況を自分で理解した上で自分で適切な問いと答えの両方を作りだせる汎化型のAIを指す。
そのAGIが実現されれば、AGIは自身の問題点とその改善策を自分で見つけられるようになり、しかも人間よりも早くそれが可能なのでAGIの能力は一気に高まっていくことになる。
だからあっという間に「大きく後れを取る」ことになるのだ。

そして、そこからはシンギュラリティの議論でも言われているとおり、その先の未来のシナリオは人間には完全に予測することはできない。12の未来のシナリオを提示してくれるテグマーク自身も「AGIを目指す現在の競争が今後数千年のうちに行き着く可能性のあるシナリオは、驚くほど幅広い」と言っている。

この広さそのものが人間が限界だと思ってたものをはるか彼方に追いやってしまっているはずだ。
すくなくとも人間ができる想像の範囲ですら、人間の限界は無意味にできることがわかる。
それに気づくことにワクワクできるかどうか。
とにかく僕はとてもワクワクした。

限界はあってもスケールが違う

もちろん、AGIの環世界にも限界がないわけではない。

数10億年におよぶ宇宙のタイムスケールに比べると、知能爆発は一瞬の出来事であって、テクノロジーのレベルは物理法則による限界であっという間に頭打ちになる。

と、テグマークも書いている。
ただし、ここでいう「物理法則による限界」というものが、とにかく驚くほど、桁違いなのだ。

たとえば、利用可能なエネルギー。
まず、いま僕たち人間が自然から得ているエネルギーの非効率さを知って、あらためて驚く。
こんな具合なのだ。

石炭やガソリンの燃焼による効率も、食事のそれぞれ3倍と5倍にすぎない。ウラン原子を核分裂させる今日の原子炉はそれよりもはるかに効率が良いが、それでもウラン原子のエネルギーの0.08パーセント以上を取り出すことはできない。太陽のコアで起こっている核反応は、我々が作った原子炉よりも1桁効率が良く、水素を核融合させてヘリウムに変えることでそのエネルギーの0.7パーセントを取り出している。

人間の力では、まだ可能になっていない核融合が可能になっても所詮は元の物質のもつ力の1%にも満たない量しかエネルギーに変換できないのだ。

しかし「未来の生命が手にできるエネルギーが、現在のテクノロジーで可能な量よりも大幅に多いことが確実だ」という。

たとえば、ブラックホールの力を使うと、エネルギー変換できる量は桁違いに大きくなる。

最初、ブラックホールが自然界で許される最高スピードで自転していて、事象の地平面がほぼ光速で移動していたとすると、この方法によって質量の29%エネルギーに変換できる。（中略）銀河系の中心にある巨大ブラックホール（質量は太陽の400万倍）も自転しているらしく、たとえその質量の10%しか言うようなエネルギーに変換できなかったとしても、太陽400万個分を100パーセントの効率でエネルギーに変換したのと同じことになり、そのエネルギー量は、5億個の恒星の周囲にダイソン球を建設して数10億年かけて得られるぶんにも匹敵する。

ブラックホールを相手にすることは人間には限界を超えたことだとしても、人間を遥かに超えた超知能生命であれば可能かもしれない。理論物理学者のテグマークによれば、方法はこのブラックホールを利用したものだけに限らない。
ゆえに、「「未来の生命が手にできるエネルギーが、現在のテクノロジーで可能な量よりも大幅に多いことが確実だ」ということになる。

桁外れの可能性

超知能生命の限界が桁違いなのは、エネルギー変換に限らない。

一定状態に達したらそのテクノロジーのレベルは今日のテクノロジーよりもはるかに高く、同じ量の物質からでも、約100億倍のエネルギーを発生させ（スファレロンやブラックホールを使って）、12桁から18桁分多くの情報を保存し、31桁から41桁分速いスピードで計算を行うことができる。あるいは、何でも好きな物質に変換させることができる。

さらっと書かれているが「何でも好きな物質に変換できる」なら、何をするのにも困らない。

物理的観点から見れば、居住場所や機械や新たな生命形態など、未来の生命が作りたいと思うものはすべて、素粒子をある特定の形で組みあわせたものにすぎない。シロナガスクジラがオキアミを、オキアミがプランクトンを再構成したものであるのと同じように、この太陽系全体も、138億年におよぶ宇宙の進化の中で水素を組み替えたものでしかない。重力が水素を組み替えて恒星を作り、恒星が水素を組み替えてもっと重い原子を作り、その原子が重力によって組み替えられてできた地球の上で、科学的および生物学的なプロセスによって原子がさらに組み替えられることで、生命ができたのだ。
テクノロジーの限界に到達した未来の生命なら、そのような粒子の組み換えをもっと高速かつ効率的におこなうことができる。

エネルギーにも制約がほとんどなくなり、使える情報も、それを使うための計算速度も桁違いである上、物質を自由に変換できるなら、いまの持続可能性の問題はまったく意味が違ってくる。

しかも、だ。

超知能生命は、既存の資源をそのように大幅に効率的に利用するだけでなく、光に近い速さで宇宙へ入植してさらに多くの資源を獲得することで、今日の生物圏を約32桁分大きいサイズへ拡大させることもできるだろう。

資源を使える範囲も桁違いなのだ！
思考を行う条件、生き続けるための条件がまったく別物になる。限界とはなんだろう？という話だ。

ひとたび超知能AIが別の恒星系や銀河へ入植すれば、そこに人間を送り届けるのはたやすい――ただし、そのような目標を持ったAIを作ることができればの話だが。人間に関するすべての情報を光速で送信し、AIがクォークや電子を組み合わせて目的の人間を作ればいい。その方法としてはまず、1人の人間のDNAを記述するのに必要な2ギガバイトの情報を送信して、培養した赤ん坊をAIが育てると言う、比較的低レベルのテクノロジーを使うやり方。もうひとつは、AIがナノテクノロジーを使ってクオークと電子から成人の人間を作り、地球でスキャンした下の人間の記憶をそれに植え込むという方法も考えられる。

どうだろう？
この想像力の際限なさにワクワクしないだろうか？

知識を増やさない限り、限界は広がらない

これが現実にいつできるかということは置いておいたとしても、限界を超えて、こうした想像を働かせること自体にワクワクする。
そして、こうした想像をした上で、これが実現したいことなのであれば、どうしたら実現できるか？を考えればよいのだと思う。

こういう流れのなかであれば、できる／できないなんて議論がのっけから出てくる余地はないのではないか？

そんなできる／できない議論にばかりなってしまうのは、やっぱり想像力が決定的に欠けているのだろうし、想像するための知識の量があまりにも少なすぎるのだろう。
貪欲に知識を増やすことなしに想像の幅は広がらないし、ワクワクする機会もそうそう得られない。

そんな状態のままの自分を放置して、やたらと限界ばかり気にして、できる／できないの無意味な議論にみずからを没頭させてしまうのは、あまりにも勿体なさすぎはしないだろうか？

知識を増やし、知能を増やさなければ、限界の幅が広がらないというのは、何も桁違いのAGIとの比較でなくとも、人間同士のなかでさえ、それなりの大きさの差となって表れるのだと思う。

知識を増やさない限り、限界は広がらない。
その努力をせずに、限界について文句ばかり言っているのを見るのはやはり気持ち悪いことだ。

LIFE3.0──人工知能時代に人間であるということ