社会的シンギュラリティ、センサー計画経済、権力分立の未来
市場の終わりと新しい計画経済
『ラディカル・マーケット』という本の終章に、「市場の終わり」についての話が出てくる。
『ラディカル・マーケット』は、終章直前まで、基本、市場っていいよね、なるべくいろんなことを市場に任せると、効率良くなるし、それって、普通、人が市場の外にあるべきだと思ってる領域にもかなり関係してるんだよ、というトーンの本だった。で、市場に任せる方が、倫理的にもかえって良くなる、場合もありうる、という気分も。だから、ラディカル・マーケット、つまり、普通の市場万能主義のもっと先、果てしない拡張メカニズムを提示するということになる。
とはいえ、この本は、普通の意味での市場万能主義の限界点から出発しているようなところがあるので、一昔前のなんでも市場に任せればうまくいく的なのとはだいぶ違う。
だけど、ここで書きたいのは、そのことじゃない。
この本の終章では、もし、市場が「巨大並列計算機（例えばたくさんの人間）が、（需要と供給に関する）連立方程式を解く効率のいいやり方（＝取引成立をもっとも多くする価格を見つけるメカニズム）」に過ぎないなら、とんでもない計算力がある世界では、もはや市場は必要ないこともありうるよね、というファンタジーが書いてある。
もちろん、莫大な計算力がないと、人間に実際に取引してもらって価格メカニズムで生産と分配を決めてもらうしかない。だけども、技術的シンギュラリティが起きて、全人類の思考をシミュレーションできるぐらい計算力が余った世界なら、市場と価格という分配の仕組みが、用済みになることもありうる。
現代人は、価格や市場が生産と分配のやり方を決める一つのメカニズムに過ぎない、ということを忘れるぐらい資本主義にどっぷり浸かってるから、この指摘には、割と盲点を突かれる。
物に価格がなく、しかも、ちゃんと物が行き渡る世界？
その時、再び「計画経済」 という古めかしいコンセプトが、もう一度日の目を見る。
そのイメージは、たとえば、「映画を観ている時の視線の軌跡から、「注意の仕方」が似た人が好む映画を推薦する」 というような、莫大なセンサー技術によって、需要というものを市場で発見する必要がなくなる世界だ。
なので、旧共産圏のやっていたのとはだいぶ違う。
Amazonが物流、Netflixがレコメンドでやっているのを、もっと大規模に、生体情報に基づいてやる。 さらにその生体情報に基づいた人間の消費行動を全人類分コンピュータの中でシュミレートしてしまう。
この「全人類計算機」があると、「市場」という「実際の人間でやる計算」は必要なくなる。
これが、新しい計画経済。あるいはセンサー計画経済。
それは人間にとってどんな社会か？
技術的シンギュラリティは、もし、それが起きるほど計算リソースがあるなら、センサー計画経済のような「社会的シンギュラリティ」を伴うだろう。
もちろん、人間に需要されるものが、計算機の中に取り込んだ生体情報だけで計算できないほど複雑なものだったらこんな計算はできない。変わった趣味の人は多いし。
だけども、実際の人間がそれほど複雑なのか、少なくとも筆者には確信がない。 むしろ全体主義や陰謀論で誘導される巨大集団が出現するというのは、実際の人間が、それほど複雑なものではない、ということの証明のような気もする。
注意して欲しいのは、この手の単純な引き込み、は、知性とは無関係に誰にでも起きうる、ということだ。これを書いている我々にも、もちろん、あなたにも。20世紀最大の哲学者とよく言われるハイデッガーがナチ党員であったのは有名な史実だ。
では、新しい計画経済には、なんか問題はあるだろうか？
そのことについては、『ラディカル・マーケット』ではあまり触れていないので、妄想してみよう。
まず、この社会では、みんなだいたい満足している。なにしろ、レコメンドがうまいのだ。
資源配分や環境問題は、とりあえず後回しにしとくと、問題は、不満や苦痛ではない。ちなみに、現代の社会システムを前提とした苦痛の対処については、他の場所でこんなのも書いてる。
では、尊厳と自由意志がなくなることが問題だろうか？
恐らく問題ない。 あるいは問題にできない。
なぜならAIがやってくる推薦は本当によくできているという想定なので、この社会では、彼らの誘導に従っている方があまりにも楽しいからだ。
またはこういうこともできる。AIの推薦を拒絶して自分で選んでも、結局提案されたものを選んでしまう。もしくは違うものを延々と探した挙句、最終的に推薦されたものにたどり着く。そんな世界では、自由に選ぶ、という言葉の意味がなくなる。
まあ、よくある近未来SFの世界だ。
こういう社会では、市場と政府がほとんど融合して一枚のレイヤー（層）になってしまう。「皆が本当に望んでいること」が分かるなら、全部「計画」レイヤーにしてしまえばいい。投票も価格も、人々の本当の欲望を知る間接的な調査メカニズムなのだから、いらなくなる。
リベラル型社会的シンギュラリティとレコメンド
ここで、この未来社会をなるべくリベラルな方向でもう少し具体的に考えてみる。
まず、分散型プラットフォームで、センサリング政治と経済が運営されているから、特定プラットフォームによる独占もないとしよう。フェイク除去装置もちゃんと機能していて、フェイクニュースやレトリック操作による扇動は、ここで書いた仕組み（分散化ソクラテス）の発展版みたいので、すぐラベリングされてしまう。
予算配分（という概念がまだあるなら）は、全市民の欲望をセンサリングした結果を、恐らくここで書いた「ミラーバジェット」に、改良された投票メカニズムをプラグインしたようなもので、毎日毎秒ストリーミング更新されていく。もはや、政府、計画、自分の欲望、知覚を明確に区別することも難しいようなメカニズム。
この社会では、政治的な主張や投票に対しても、その仕方を懇切丁寧にレコメンドしてくれるAIがいるから、恐らくほどなくして、政治行為は、政策レコメンドに、Yes・Noを申し訳程度に回答するだけになる。
ところで、最近のAIと人間の共存、倫理に関わる話は、だいたい「強い人間」の物語だ。AIは奴隷で、人間が上司になってクリエイティブな意思決定に集中する、という神話。
上のような社会で、この神話を維持するには、恐らく、曖昧な言葉でAI倫理法を定めるより、「人間の尊厳、権限、意思決定能力を維持するため、AIを用いたレコメンドを全て禁止する」の方が範囲も分かりやすいし効果的だろう。
社会的シンギュラリティが起きている場合、「人間」は、基本AIの計画レイヤーにとっての外部、世界、人間にとっての自然災害や環境と似たようなものだ。限られた認知、寿命、で、莫大な計算リソースで作られた提案に対して、YesとかNoとかで反応する自然＝人間。
Web全部読んで、あなたの知覚全部拾った結果、この予算にもう3%投資した方がいいと思うんですけど、どう？
よくあるSFでは、こういう社会で人間は、社会の外部がないことの窒息感的なものに耐えきれなくなって、真の世界を探すテロ活動に出発することが多い。
恐らく、それもある。だけども、別の問題もある。
レイヤーの枚数から権力分立の問題へ
実は上で描いた社会では、結局、「世界（寿命、余暇限界、死、気候変動、資源）」レイヤー、と「計画（AI・ブロックチェーン・センサー計画経済・センサー政治）」レイヤー、の２つのレイヤーしか持っていない。
もし、「暴力（軍隊・警察＋外交）」を独占する政府が残るなら、それは計画とも世界とも違うから、３つの異なる原理を持つレイヤーがあることになる。
これらのレイヤーは、仮定により、世界全てを覆い尽くしているので、その外側に、それらを規制するようなフェアな存在を描くことはできない。
こういう状況で、「公正さ」とか「一方的な従属なしにシステムが動く」というようなことを維持するには、レイヤー間でどういう権力の振り分け、相互抑制、もしくは権力分立が必要になるだろうか？
この問題は、新しい計画経済やその管理云々とは別枠で存在する。ちなみに『ラディカル・マーケット』には、政府への不信と金融操作関係の話は不思議と出てこない。お話に政府が誠実にある程度効率よく機能する、という前提がある感じだ。
センサー計画社会には、２つのレイヤーで十分なのか、３つのレイヤーが必要なのか？それとももっと多い方がいいのか？その数はいくつか？
下の図は、５つまでで色々妄想していた時の図。
新しい経済のとても新しい感じの話題は、とても古い問題、三権分立という当たり前のようで、あまり実行されていない概念に関わる。
そういうことについて、もっと詳しく書いた原稿が、こっちにあるので、興味を持ったら、一種のSFとして読んで欲しい。
英語版
この記事が気に入ったらサポートをしてみませんか？