シンギュラリティ信仰はいかにして生まれるか〜第1章

第1章 シンギュラリティのアイディアの歴史

　本章では、カーツワイルの前に、「シンギュラリティ」という言葉を用いた人物であるジョン・フォン・ノイマンとヴァーナー・ヴィンジのシンギュラリティ像を紹介し、その系譜を説明する。これにより、シンギュラリティのアイディアがどのように発展していったのかを示すことが本章の目的である。第1節では、「シンギュラリティ」という言葉が、フォン・ノイマンによって初めて用いられたことについて述べ、フォンジ・ノイマンとカーツワイルのシンギュラリティ像を比較考察していく。第2節では、ヴィンジのシンギュラリティ像とカーツワイルのシンギュラリティ像を比較考察し、シンギュラリティがヴィンジの考える悲観的なものからカーツワイルの考える楽観的なものへと変わっていったことを示す。第3節では、抽象的だったフォン・ノイマンのシンギュラリティ像にヴィンジが新たなアイディアを与えることで具体化し、その後でカーツワイルがそのアイディアを描きかえたことを示す。

第1節 フォン・ノイマン――シンギュラリティの提唱者

　実は、シンギュラリティという概念を最初に考えだした人物は、カーツワイルではなかった。カーツワイルによると、「特異点シンギュラリティ」という言葉が、人類の歴史という布地を裂くほどの事象を指すものとして初めて使われたのは、ジョン・フォン・ノイマンの発言の中でのことだった（カーツワイル 2007〔2005〕：37）。フォン・ノイマンについては、第3章で詳しく見ていくが、サイバネティクスと呼ばれる分野の発展に貢献した人物である。

　カーツワイルは、フォン・ノイマンの次のような発言を引用している4）。

　たえず加速度的な進歩をとげているテクノロジーは……人類の歴史において、ある非常に重大な特異点に到達しつつあるように思われる。この点を超えると、今日ある人間の営為は存続することができなくなるだろう5）（フォン・ノイマン 1958）。

　このように、フォン・ノイマンは、加速度的な進歩をとげているテクノロジーが人類の歴史において、ある非常に重大な特異点に到達しつつあると感じ、この点を超えると今日ある人間の営為が存続できなくなると考えた。この点から、フォン・ノイマンの描くシンギュラリティ像には、①「テクノロジーが加速度的な進歩をとげており、それが人類の歴史において、ある非常に重大な特異点に到達しつつある」、②「特異点を超えると、今日ある人間の営為は存続することができなくなる」という二つのアイディアが見られる。

　このようなフォン・ノイマンのアイディアは、カーツワイルのものといくつか共通している。たとえば、フォン・ノイマンのアイディア①「テクノロジーが加速度的な進歩をとげており、それが人類の歴史において、ある非常に重大な特異点に到達しつつある」は、カーツワイルのアイディア⑤「テクノロジーの進歩と成長が指数関数的に成長し、さらにその成長率も指数関数的になっていく、という収穫加速の法則がある」と共通している。なぜなら、どちらも、テクノロジーの加速度的な進歩を説くものだからだ。

　また、フォン・ノイマンのアイディア②「特異点を超えると、今日ある人間の営為は存続することができなくなる」というアイディアは、カーツワイルのアイディア①「テクノロジーが人間性の粋とされる精巧さと柔軟さに追いつき、さらには抜き去り、人間の生活が後戻りできないようになる」と共通している。なぜなら、どちらも、特異点を超えると、人間の営為すなわち日常生活が一変すると説いているからだ。

　このように、カーツワイルのシンギュラリティ像に関するアイディアは、フォン・ノイマンのアイディアによる影響が見られる。そして、カーツワイルは、フォン・ノイマンが、シンギュラリティという概念を最初に考えだした人物だと認めているのだ。

第2節 ヴィンジの描くシンギュラリティ像

第1項 不気味な地点としてそびえ立つシンギュラリティ

　フォン・ノイマンの次に「シンギュラリティ」という言葉を用いたのは、アメリカの数学者でありSF作家でもあるヴァーナー・ヴィンジ（Vernor Vinge）であった。カーツワイルによると、「カリフォルニア州立サンディエゴ大学で教鞭をとる数学者でコンピュータ・サイエンティストのヴァーナー・ヴィンジは、は、『テクノロジーの特異点』に急速に近づきつつあるという持論を、一九八三年に『オムニ』誌に載せ、一九八六年には『現時間に取り残されて（Marooned in Realtime）』というSF小説の中で展開した」（カーツワイル 2007〔2005〕：37）。そして、「一九九三年には、ヴィンジが、特異点は主として『人間の知能を超えた存在』が出現をしたために迫りつつある事象であり、これが先触れとなり、とどまるところを知らない現象が起こる、と説く論文を、NASA主催のシンポジウムに提出した6）」（カーツワイル 2007〔2005〕：37）。彼は、「来たるべきシンギュラリティ」7）という論文のなかで、シンギュラリティについて明かしている。

　ヴィンジによれば、シンギュラリティとは、「われわれのモデルが捨て去られ、新しい現実が支配する地点」（Vinge 1993：12）のことであり、「シンギュラリティの理解が一般的になるまでは、この地点に近づけば近づくほど、人間の問題を超えて、それは不気味にそびえ立つだろう」（Vinge 1993：12）。また、ヴィンジは、「シンギュラリティが阻止できず制限もできないのであれば、人間の後に来る時代はかなり悪いものになる」（Vinge 1993：16）ことや、「人間の肉体が消滅する可能性もある」（Vinge 1993：16）ことについて述べる等、悲観的な予測を立てている。このような地点こそが、まさにヴィンジのいうシンギュラリティなのである。

第2項 人類を超越した知性の創造

　ヴィンジは、「来たるべきシンギュラリティ」の中で、人類を超越した知性の創造について触れている。彼は、このようなブレイクスルーを達成し得る四つの科学的手段を示している。まず、一つ目は、「『覚醒し』、人間を超越した知性を持つコンピュータの開発」（Vinge 1993：12）である。次に、二つ目は、「広大なコンピュータネットワーク（とそれにかかわるユーザー）が、人間を超越した知性の実体として『目を覚ます』こと」（Vinge 1993：12）である。そして、三つ目は、「人間とコンピュータの間のインターフェイスが親密になり、ユーザーが超人的な知性をもったと当然のごとくみなされるようになること」（Vinge 1993：12）である。最後に、四つ目は、「生命科学が、生まれながらの人間の知性を向上させる手段を提供すること」（Vinge 1993：12）である。

　ヴィンジは、このうち、「はじめの三つの可能性は、コンピュータのハードウェアの向上にかなり依存している」（Vinge 1993：12）と分析した。また、彼は、「ハードウェアの進歩は、過去数十年間に驚異的で安定したカーブを描いた」（Vinge 1993：12）と述べている。そして、「このような傾向に大いに基づくと、次の三〇年間で、人類を超越した知性が想像される」（Vinge 1993：12）とヴィンジは予測したのだ。そうなると、人類を超越した知性が進歩を駆り立て、進歩のスピードはさらに速くなり、さらに知的な実体が創造される（Vinge 1993：12）、とヴィンジは述べる。最終的な結果として、彼は、「三〇年以内に、われわれは、人類を超越した知性を創造するための技術的な手段を手に入れるようになるようになり、その後すぐに人間の時代は終わりを迎えるだろう」（Vinge 1993：11）と予測している。

　このように、ヴィンジは、四つの科学的手段によって、人類を超越した知性が生みだされ、さらに知的な実体が生みだされる未来を描いた。

第3項 仕事の自動化による技術的な失業の増加

　ヴィンジは、「われわれは、より高度な仕事が次々に自動化されていくのを目撃するだろう」（Vinge 1993：14）と述べている。彼は、現在においても、象徴的な数学プログラムやcad／camといったツールによって、もっとも低いレベルの労役からわれわれが解放されている事実を説明した（Vinge 1993：14）。そして、生産性を有する活動の部分は小さくなっており、人間のうちほんの少しのエリートが扱う分野となっている（Vinge 1993：14）。さらに、シンギュラリティの到来によって、「真の意味での」技術的な失業が起こるとヴィンジは予測した（Vinge 1993：14）。

第4項 ヴィンジのアイディア

　以上をまとめると、ヴィンジの描くシンギュラリティ像には、次のようなアイディアが見られる。

アイディア① 人間のこれまでのモデルが捨て去られ、新たな現実が支配する

アイディア② シンギュラリティは近づけば近づくほど不気味であり、人間の肉体の消滅が起こる等、その未来は悲観的なでかなり悪いものになる。

アイディア③ 人間を超越した知性が創造される。

アイディア④ 人間とコンピュータの間のインターフェイスが親密になり、ユーザーが超人的な知性をもったとみなされるようになる。

アイディア⑤ 生命科学が、生まれながらの人間の知性を向上させる。

アイディア⑥ 人類を超越した知性が進歩を駆り立て、進歩のスピードはさらに速くなり、さらに知的な実体が創造される。

アイディア⑦ 人類を超越した知性を創造するための技術的な手段が手に入るようになるようになり、その後すぐに人間の時代は終わりを迎える

アイディア⑧ 仕事の自動化により「真の意味での」技術的な失業が起こる。

　このように、ヴィンジによるシンギュラリティ像は、カーツワイルのものに比べると、悲観的な未来として描かれていることがわかる。たとえば、②「シンギュラリティは近づけば近づくほど不気味であり、人間の肉体の消滅が起こる等、その未来は悲観的なでかなり悪いものになる」というヴィンジのアイディアは、カーツワイルのものには見られない。カーツワイルのアイディアは、ヴィンジに比べると楽観的なものであり、③「生物的な身体と脳が抱える限界を超えることが可能になる」ことや⑨「G（遺伝学）革命によって、事実上全ての病が撲滅し、人間の可能性が飛躍的に広がり、寿命が劇的に伸びる」こと、⑳「死に関する制約が取り払われる」こと等を説く。

　一方、二人のアイディアには、共通点も見られる。たとえば、ヴィンジのアイディア①「人間のこれまでのモデルが捨て去られ、新たな現実が支配する」は、カーツワイルのアイディア②「テクノロジーが人間性の粋とされる精巧さと柔軟さに追いつき、さらには抜き去り、人間の生活が後戻りできないようになる」と共通している。なぜなら、どちらも、人間のこれまでの生活様式が一変する地点として、シンギュラリティをとらえているからだ。

　また、ヴィンジのアイディア③「人間を超越した知性が創造される」や⑥「人類を超越した知性が進歩を駆り立て、進歩のスピードはさらに速くなり、さらに知的な実体が創造される」は、カーツワイルのアイディア⑪「R（ロボット工学）革命によって、人間の知能をモデルとしつつも、それよりはるかに優れたロボットが生まれる」や⑭「人間を超える強いAIが登場し、それは能力を倍加し続ける」と共通している。なぜなら、どちらも、超知性の創造やその進歩を説いているからだ。ヴィンジは、その存在を「人間を超越した知性」と表現しているが、カーツワイルは「強いAI」と表現したのだ。

　次に、ヴィンジのアイディア④「人間とコンピュータの間のインターフェイスが親密になり、ユーザーが超人的な知性をもったとみなされるようになる」は、カーツワイルのアイディア②「生物の思考とテクノロジーが融合する」や⑰「非生物的な知能と融合することにより、人の能力が拡大される」と共通している。なぜなら、どちらも、人間と知的な人工物の間の境界線が消滅し、人間が人工物と合わさることで、さらなる知性を獲得することを説いているからだ。

　そして、ヴィンジのアイディア⑤「生命科学が、生まれながらの人間の知性を向上させる」は、カーツワイルのアイディア⑫「G（遺伝学）革命によって、事実上全ての病が撲滅し、人間の可能性が飛躍的に広がり、寿命が劇的に伸びる」と共通している。なぜなら、どちらも、生命科学の貢献により、人間の能力の拡張を説いているからだ。ヴィンジは知性の向上を説いたが、カーツワイルは病気の撲滅や寿命の延長を説いている。

　最後に、ヴィンジのアイディア⑦「人類を超越した知性を創造するための技術的な手段が手に入るようになるようになり、その後すぐに人間の時代は終わりを迎える」は、カーツワイルのアイディア⑬「非生物的な知能であるコンピューティングの能力が人間の全ての知能よりも約一〇億倍強力になることで、二〇四五年ごろにシンギュラリティが訪れる」と共通している。なぜなら、どちらも、非生物的な知能が強力になり、ある種のパラダイム・シフトが起こることを説くからだ。この地点はシンギュラリティと呼ばれるが、ヴィンジとカーツワイルの描くその後の未来は異なっているのだ。

　このように、カーツワイルの描くシンギュラリティ像はいくつかヴィンジのものと共通しており、ヴィンジからの影響を受けていることがわかる。そして、カーツワイルは、ヴィンジの描く悲観的なシンギュラリティ像を楽観的なものに描きかえたのだ。

第3節 フォン・ノイマンからヴィンジ、そしてカーツワイルへ

　ヴィンジは、「来たるべきシンギュラリティ」の中で、カーツワイルと同様に、フォン・ノイマンについて触れた。彼は、フォン・ノイマンについて伝えたスタニスラフ・ウラムの次のような記述を引用している。

　テクノロジーの加速度的な進歩と人間の生活様式の変化について、フォン・ノイマンと議論したことがある。この議論は、非常に重要な特異点にわれわれが近づいているという視座をわたしに与えてくれた。それは、われわれの知るような人間の形が、今後は持続しなくなるというような歴史における特異点のことである8）（ウラム 1958）。

　ここでも、②「特異点を超えると、今日ある人間の営為は存続することができなくなる」というフォン・ノイマンのアイディアがはっきりと表れている。そして、ヴィンジは、「たしかに、フォン・ノイマンは「シンギュラリティという用語を用いたが、彼は通常の進歩について考えているだけであり、超人的な知性をもった実体の創造については考えていない」（ヴィンジ）と述べる。

　このように、ヴィンジは、②「特異点を超えると、今日ある人間の営為は存続することができなくなる」という抽象的なフォン・ノイマンのシンギュラリティ像を発展させ、それに②「シンギュラリティは近づけば近づくほど不気味であり、人間の肉体の消滅が起こる等、その未来は悲観的なでかなり悪いものになる」、③「人間を超越した知性が創造される」等といった新たなアイディアを与えることで具体化した。その後、カーツワイルが、ヴィンジのアイディアを引き継ぎつつも、悲観的な部分を描きかえ、楽観的なシンギュラリティとして伝えたのだった。

脚注

4）レイ・カーツワイル 『ポスト・ヒューマン誕生――コンピュータが人類の知性を超えるとき』 井上健監訳、NHK出版、2007年、21頁を参照。引用の日本語訳やその表記はこの訳書に従った。

5）スタニスラフ・ウラムが伝えたジョン・フォン・ノイマンの言葉。“Tribute to John von Neumann”, Bulletin of the American Mathematical Society 64.3, pt.2 (May 1958): 1-49.

6）Vernor Vinge, “The Coming Technological Singularity: How to Survive in the Post-Human Era”, VISION-21 Symposium, 1993年3月、NASAルイス研究所およびオハイオ航空宇宙研究所の主催。

7）Vernor Vinge, “The Coming Technological Singularity: How to Survive in the Post-Human Era”, 1993年、11～22頁、オンライン、「NASAのホームページ」、インターネット、https://ntrs.nasa.gov/archive/nasa/casi.ntrs.nasa.gov/19940022855.pdf（2018/1/18にアクセス）

初出in G. A. Landis (ed.), Vision-21 : Interdisciplinary Science and Engineering in the Era of Cyberspace, NASA Publication CP-10129, p. 115-126, 1993.

8）スタニスラフ・ウラムが伝えたジョン・フォン・ノイマンの言葉。“Tribute to John von Neumann”, Bulletin of the American Mathematical Society 64.3, pt.2 (May 1958): 1-49.