さよならホモ・サピエンス？『ホモ・デウス』が示す人類の未来
「OK、グーグル。私はどんな仕事に就くべきかな？」
「君の好きなこと、苦手なこと、信条、政治的な意見、どんなスキルをどのレベルで身につけているか、どんなソーシャルネットワークを持っているか、僕はかなり知っている。総合的に考えれば君は何もしないでいてくれるのが最善だと思う。なぜなら君のスキルでできることは、コンピュータアルゴリズムの方がずっとうまくやるし、もし君が動こうとすればアルゴリズムの最適な動きを邪魔するかもしれないからね。」
「じゃあ質問を変えよう。私はどんな方法でお金を稼げば良いだろう？だって生活するためにはお金が必要だ。」
「やっぱり君は何もする必要がないよ。僕は君の資産を常に最適な形で運用している。それを最大化するのは僕が最も得意なことだ。
そうだ、君にやってもらいたいことがあった。様々な人と交流したり、好きな場所へ出かけたり買い物をしたりしてくれればいい。そういう経験はデータとしてアップロードされて価値になる。君にも収入があるだろう。ちなみに今の君にオススメの人や場所は・・・」
というSFにいかにもありそうな物語。
そう、ありそうだけど、誰も現実に起こるとはほとんど想像していない物語。
だけど「夢物語なんかじゃないよ」と、歴史を踏まえながら未来のシナリオを提示するのが『ホモ・デウス テクノロジーとサピエンスの未来』(ユヴァル・ハラリ著)という本だ。
本の論点を超ざっくりとまとめると以下のようになる。(私の解釈では)
・人間の下す決定の99%は「感覚や情動や欲望と呼ばれる精密なアルゴリズムに」よってなされる
・その点において他の動物より人間がとりわけ価値が高いということはないし、「アルゴリズムのより複雑さ」ということで言えばコンピューターの方が価値が高くなる可能性は充分ある
・「現代社会は人間至上主義の教義を信じていて」、その中でも自由主義(的な人間至上主義)がこれまで勝ち残ってきた
・それが前提とするのは、「人間個人の自由意志最高！」ということだが、そもそもその自由意志だと思っているもののほとんどはアルゴリズムなので、外部のアルゴリズムに任せた方が良い判断ができるかもしれない
・そうして多くの失業者と一部の超特権エリート層という形で格差が拡大し、貧しい人を置き去りにした方がはるかに効率的という考えが優位に立つと自由主義は崩壊する・そのときに新たな教義として立ち現れるのは、①テクノ系人間至上主義 または②データ至上主義。
・①は、「はるかに優れた人間モデルであるホモ・デウスを生み出すためにテクノロジーを使い」、アップグレードされた心身を享受するシナリオ
・②は、人間の経験は「データになってはじめて価値を持つ」という考え方。
・いずれにしても生物学的進化論的文脈でとらえられる人類はテクノロジーによって次の段階に行かなければならないことを示している
これまでも、テクノロジーの脅威を具体的に示す書籍や映画は多く存在していると思うが、この本の特徴的なのは、それが真に社会に浸透していったときにどのような教義が支配的になりうるのか詳しく考察している点だと思う。
この本は上記のような世界が必ず来るぞと予見しているのではなく、そういうシナリオもわりと現実味を帯びてきていますよ〜と提示するスタンスをとっている。
なので私もそのシナリオに対して感じたことをまとめておきたいと思う。
シンギュラリティ
人工知能が指数関数的に高度化し人間の知性を超える技術的特異点がそのうちやってくるだろうという考え方。未来学者のレイ・カーツワイル氏はそのシンギュラリティが2045年にくると著書の中で記述している。
『ホモ・デウス』でシンギュラリティに対する直接的な言及はないが、それを前提にしていることが伺える。
本書で展開されるのは、人間の意思決定の99%がアルゴリズムであり、であるからして外部のアルゴリズムがそれを代替できたとしても何ら不思議ではないという説だ。
「99%がアルゴリズム」と断定できる科学的証拠があるのか私は知らないが、そのような説が年々現実味をおびてきていることは私でも感ずるところがある。
以前、囲碁コンピューターと対戦した囲碁棋士に話しを伺った際、「囲碁コンピューターを開発したエンジニアは『まだまだ人間を超えられそうもない』と言っていた」と仰っていた。
囲碁はあまりに複雑でアルゴリズムだけではない、人間の感覚的なものがものを言う世界なのだという話だった。
「じゃあ囲碁は最後の砦なんですね」なんて余裕をかましながら話していたら、その2年後にはコンピューターが人間を打ち負かしてしまった。しかも圧勝だったそうな。
つまり「人間の感覚」だと思っていたところを、コンピューターはみごとにアルゴリズムとして組み上げてしまったのだ。
囲碁のような一定のルールに基づくゲームに限らず、「いやこれはただの感覚的な判断さ」と人間でも説明のつかないもののメカニズムをコンピューターが簡単に理解してしまうかもしれない。それどころか、私の相棒コンピューターは私よりも私のことを知り、より適切な判断へと導いてくれる。かもしれない。
1%の謎
99%はアルゴリズムで、じゃあ残りの1%は？
1%はよくわかっていないものだ。
本書でも意識あるいは心っていうまだよくわからないものがありますよという話が出てくる。
これまで私が人工知能や認知科学に関する本をいくつか読んだ感じでは、結局この1%の部分がものすごい壁として立ちはだかっている印象だった。
とはいえ、コンピューター自らが賢く学習するディープラーニングの技術はこの2、3年のうちにもものすごく進歩しているのだろうし、私が情報を追っていた頃とはずいぶんと状況が変わってきているのかもしれない。だからこそ、「よくわからないもの」の領域はあとわずか1%のところまで追い詰められたということでもあるのだろう。
ちなみにこの『ホモ・デウス』は、人工知能の技術的な課題、つまり人間にとって容易でも機械がなかなかできないこと、にはあまり触れていない。今なかなかできないことも今後実現されるだろうというスタンスなのだと思うが。
とはいえ、人間と機械の最たる差分は何なのか、逆にどこを乗り越えれば、一気に機械が人間を上回るところまでいくのか、そのあたりも知っておくとこの本をより面白く読めるかもしれない。
以下の本は文系の人でも理解しやすくおすすめ。
- 松尾豊著『人工知能は人間を超えるか』(角川EPUB選書)
- 苫米地 英人著『認知科学への招待』
「仕事を奪われる」とかの話はもういい
けれど実際は機械が人間のように意識や心を持たなかったとしても、人間の仕事の多くを代わりにやってのけるにはなんら問題がない。
それほどまでに、人間の仕事はアルゴリズムなのだということをこの本は示している。
なので、そう遠くない未来に既存の仕事の多くはコンピューターアルゴリズムに取って代わられるだろうが、その点についてはこの本も、これまで散々言われていることをさらに確信を持って伝えているに過ぎない。
だからその議論はもういい。
問題はそうなったときに、世界はどうなっているか？人々の暮らしはどんな様子か？ということだ。
人間至上主義の現代
この本の中で何度も登場するのは「人間至上主義」という言葉だ。
その昔は「神様に聞こう」というわけだったけれど、ニーチェが言うところの「神は死」して、人間が世の頂点に君臨したのである。
テクノロジーが進歩して進歩してある方向へ進んでいくというのはあれども、そこには何らかの思想がなければどっちへ行くかもわからない。つまりテクノロジーを後押しするのは思想だ。
そして現代は、その中心的教義となっているのが、「人間の自由意志に従おう！」という自由主義的人間至上主義だというわけだ。
人間の自由意志に従っていった結果、人間は人間の仕事を奪い去ろうとするテクノロジーへの投資を推し進めている。
人間の自由意志とは何か
でも「人間の自由意志ってなんだっけ？本当に自由なんだっけ？」と筆者は問い直す。
人間は「これは自分の自由な意志だ」と思っている。けれど、それは突き詰めていくと自分がしたためた物語のようなものだ。
自分の心の奥底をのぞいてみたら答えのようなものが書いてあるというわけでは決してなく、感情が沸き起こり、例えば自分の過去と照らし合わせて一貫性のある答えらしきものを導き出す。自分が行動した後で「やっぱり自分は良い決断をした」と思えるように。
だけど実際には自分の決断や考えはブレることもあると感じないだろうか？もっと多くの情報を知っていれば、そうでない決断をしたのに、とか。
決断後の後悔の少なさが重要であれば、やはりコンピューターアルゴリズムに助言をもらう方が良い意思決定ができるかもしれない。
そうして、人間の自由意志を何よりも尊重する自由主義は足元を危うくするのだという。
大格差の時代
だからといってただちに人間の仕事全てがなくなるわけではない。多くの失業者が出る一方で、一部の特権エリートたちが機械に代替されえない存在として残る。
そうなればますます格差は広がるだろう。
最初のまとめで書いた通り、「貧しい人を置き去りにする戦略」はエリートたちにとって筋が通る。コンピューターも当然のような顔をして(無表情で？あるいは慈悲深さをあえて表現しながら？)そのような戦略を唱えるかもしれない。
私はこの点については少しわからないところもある。なぜならトップだけで走った方が速いのは今も変わらないように思えるからだ。そして、そのような走り方を推し進める人もいる。けれど逆方向に綱を引く人もいて、引きずられながらもある場所でバランスしている。
たしかに外部のアルゴリズムが、前者の綱を最大限に引っ張ったとき、あまりにもその力が強くて逆の綱が太刀打ちできない可能性もある。それは恐ろしいことだ。
ただエリートになれない大多数を置き去りにしては組織の秩序は保てない。だから結局のところトップ層は、それ以外の層が不満を爆発させない程度にシステムを調整しなければならないと思うのだが・・・
このあたりは本筋とズレるし長くなってしまうのでこのあたりで割愛する。
テクノ系人間至上主義
とにもかくにも、筆者が言うにはこうして、現代を生きる人々の土台とも言うべき自由主義は、その前提とともに崩れていくのだという。
ではそうなったとき、それに代わる主義として何が立ち現れるのか。
その一つのシナリオが、テクノ系人間至上主義である。この言葉から意味を連想することは少し難しいだろう。
本書によればそれは、
意識を持たない最も高性能のアルゴリズムに対してさえ引けをとらずに済むようなアップグレードされた心身
をも人類は享受し、
はるかに優れた人間モデルであるホモ・デウスを生み出す
そのためにテクノロジーを使うべきだとする「主義」である。
ここで初めて、本書のタイトルともなっている「ホモ・デウス」という言葉が出てくる。
このシナリオで私が想像したのは「攻殻機動隊」だ。それは、完全な外部のアルゴリズムという形ではなく、テクノロジーは人間の身体能力や知能を向上させるために内部へ取り込まれる。
ホモ・デウスの結末
しかしこの本を読んでいくと、どうやら「ホモ・デウス」の結末は、単純な「めでたしめでたし」とはならなそうだ。
人間の心身のアップグレードを担うアルゴリズムが目的を持って機能するようになると、それは人間の心や身体能力をダウングレードさせることになるかもしれないというのである。
なぜなら、心というのはアルゴリズムの目的からすると、「それで本当にいいのだろうか」とくよくよ悩んだりしてその行く手を阻む可能性があるからだ。
人間自身もアルゴリズムに任せているほうがうまくいくとわかれば、あえて考えたり悩んだりすることをやめるかもしれない。
これは容易に想像のつくことだ。今ですらわたしたちは記憶を手繰り寄せるためにすぐにスマホを頼る。記憶力は良いに越したことはないだろうが、それでもその必要性は低くなりつつある。
進化論的に影響を及ぼすまでにはずっとずっと長い年月を要するだろうが、テクノ系人間が当たり前に浸透した先の未来には生物としての人類はその形を(目には見えなくても)変えているかもしれない。
データ至上主義
そしてもう一つのシナリオが、データ至上主義である。
これは、「人間の経験を含めあらゆるもの・ことはデータになって初めて価値を持つ」という考え方で、情報は自由になるべきだと主張する。
なんのためかといえば、やはり外部アルゴリズムがより賢く立ち回るためだ。アルゴリズムは、人間社会にとっての最適解を見出す役割を与えられるが、それにはデータが欠かせない。
逆に言えばその役割はもはやアルゴリズムの手に移ったので、すべてはいかにデータに貢献するかで価値が決まる。経済成長だろうが何だろうが、目的達成のためには情報をオープンにしろ！というのである。
＊＊＊
上記の２つのシナリオはいずれも、「人間こそが優れている」、「人間には自由な意志があり、人間がどう思うかが重要である」という現代社会が立脚する前提を否定する。
まだ科学が正体を明らかにしきれていない心という存在があるものの、その他の99%がアルゴリズムであることはわかっており、そうであるならば人間特有の価値なんてものは「微妙」になってくるというのだ。
本書は、はじめの方から丁寧に「人間がそんなにすごくない理由」を説明している。全体を通して、筆者の主観的な主張はほとんど登場しないが、淡々と科学的事実とそれに基づく未来のシナリオを述べながら実は人間に対して「高を括るな」と警告しているのかもしれない。「前提を疑え」とも。
これからの人類最大のプロジェクトは非死と至福（幸福）であるという。
それは人間にとっての願望であることは間違いないが、絶え間ない成長を必要とする経済にとっても非常に都合の良いプロジェクトであるというのは納得だ。
そしてそのどちらをもテクノロジーは可能にしようとしている。「テクノロジーは」というよりも、「それを強く願う人間が」と言う方が正しそうだが。
今のところ人間は自由な意志に基づいて行動することが正しいので、欲望を満たすためにテクノロジーに投資するが、資本主義経済はそのような人間の動きととても相性がいいので、市場が活性化する。好ましい経済の循環の中で、テクノロジーはますます進歩しいつのまにか人間の知能を超えて、人間は意思決定を委ねるようになる。アルゴリズムに仕事を奪われることによって格差が拡大するばかりでなく、テクノロジーを身につけられるかどうかでもエリートとそれ以外とで差が広がることになる。上に書いたようにそれに歯止めをかけるインセンティブも十分に存在すると思うが、大筋の流れは変わらないかもしれない。
これを受けて今わたしが考えるべきことはいくらでもある。しかしここでその１つ１つを考察していくと年が変わってしまいそうだ。
今回はこの『ホモ・デウス』の内容理解のための整理にとどめ、気になるトピックについては今後少しずつ考察していきたいと思う。
『ホモ・デウス』を読んだ人で「ここ違うんじゃない」とかあればご指摘ください。
お読みいただきありがとうございました。
過去の関連する記事
この記事が参加している募集
この記事が気に入ったらサポートをしてみませんか？