【AIと社会】超知性の誕生！世界は終わるのか？『予測マシンの世紀 第五部』#11

こんにちは。シンラボ共同代表の草場です。

AIとの共同に関して、『予測マシンの世紀　AIが駆動する新たな経済』をまとめていきます。推理小説のようで、ドキドキワクワクです。

目次
はじめに―機械知能
安さはすべてを変化させる
第１部　予測
第２部　意思決定
第３部　ツール
第４部　戦略
第５部　社会
　第十九章　ビジネスを超えて　

いよいよ最終部！！昨日の記事は以下です。

■ビジネスを超えて
さて、いよいよ最後。我々の知っている世界は終わってしまうのか？

AIは人類にとって本質的な脅威なのか？イーロン・マスク、ビル・ゲイツ、スティーブン・ホーキングといった非常に真剣で賢い人々が不安視しているのは、映画『ターミネーター』に出てくるスカイネットのような存在になってしまうのではないかということだ。

ここで出てくるのが、スーパーインテリジェンス、超知性です。

彼らが恐れているのは、オックスフォード大学の哲学者、ニック・ボストロムが造語した「超知性」が出現し、人類を脅威、苛立ち、あるいは奴隷化するものとすぐに見なすようになるのではないかということだ。

ニック・ボストロムさんの『スーパーインテリジェンス』読んでます。難しいですが大事な話です。

スーパーインテリジェンス 超絶AIと人類の命運

面白いのは、ここで議論されている話は、著者が言うには、この議論がいかに経済学に近いかということです。

超知能とは、ほとんどの認知タスクにおいて人間を凌駕し、問題を解決するための推論ができるAIのことだ。具体的には、自分自身を発明し、改良することが出来る。SF作家のヴァーナー・ヴィンジは、このような状況が発生する時点を「シンギュラリティ」と呼び、未来学者のレイ・カーツワイルは、人間は定義上それほど知的ではないため、この時点で何が起こるかを予測する能力はないと指摘したが、実は経済学者にはこの問題を考える能力があることが判明した。

どういうことでしょうか？経済学が前提にしている、経済的合理性に基づいて動く人間の話です。

経済学が前提とする、超合理的で非現実的な人間の行動モデルは長年に渡り批判にさらされてきた。しかし、超知能に関しては、私たちは正しい道を歩んできた。

では、完全に合理的な超知能が経済を支配した場合、何が起こるのでしょうか？

経済学では、超知性が世界を支配しようとすれば、資源が必要になることを教えてくれる。宇宙にはたくさんの資源がありますが、超知性であっても物理法則に従わなければならない。資源を得るにはコストがかかる。

どういうことでしょうか？
ニック・ボストロムさんの本に、より多くのペーパークリップを作ることしか頭にない、ペーパークリップに取り憑かれた超知性の話が出てきます。ペーパークリップを作ることを目的にしているので害がないように思えますが、どんどんペーパークリップを作るので、人間もその材料にしてしまい人類を滅ぼす可能性が議論されています。
しかし経済学的に言うと、違うシナリオがあり得るそうです。

ペーパークリップ型のAIは、一心不乱に他のすべてのものを一掃することができる。しかしこれは、資源をめぐる競争を見落としている。
経済学者が尊重しているのは、人（そして今ではAI）によって好みが異なるということだ。ある人は探検、発見、平和に心を開いている、ある人はクリップを作っている。利害関係者が競争している限り、競争は盛んになる。
つまり、クリップ型AIは、資源を奪い合うよりも取引をしたほうが利益になると考え、まるで見えない手に導かれるかのように、本来の意図とは異なる利益を促進することになるだろう。

AIによって好みが異なるので、見えざる手が働いて異なる利益を求め始める可能性があります。もう少し理解が必要ですが、面白い議論です。

このように、経済学は、超知能AIの社会がどのように発展していくかを理解する強力な手段となる。とはいえ、我々のモデルは、この過程で人類がどうなるかを決めるものではない。

あらためて経済学、勉強します。

本書でAIと呼んでいるのは、一狭い範囲の予測マシンだ。GoogleのDeepMindによるAlphaGo Zeroは、超知能が出来る可能性を感じさせるが、まだ早い。確かに、予測マシンをより広い範囲で使えるようにする研究は進んでいるが、一般的な人工知能を生み出すブレークスルーはまだ発見されていない。

汎用人工知能（AGI）はまだ先なので、そこの議論に時間を使う必要は無いかもしれないです。

米国大統領府が作成した政策文書の中で、国家科学技術会議（NSTC）技術委員会は、「民間の専門家コミュニティの現在のコンセンサス（NSTC技術委員会も同意見）は、一般的なAIは少なくとも数十年は達成されないというものである」と述べた。同時に、Vicarious社、Google DeepMind社、Kindred社、Numenta社など、AGIや人間のような知能を持ったマシンを作ることを使命とする企業が、賢明で情報を持った投資家から何百万ドルもの資金を調達している。多くのAI関連の問題と同様に、将来は非常に不透明だ。

AGIが出来るのがまだまだ先とはいえ、そこには投資が流れています。

私たちのよく知る世界は終わってしまうのでしょうか？

これは、私たちが知っている世界の終わりなのか？
まだだが、この本の終わりにはなる。
企業は今まさにAIを導入している。より低コストの予測と予測に対するより高価値の補完を支える単純な経済学を適用することで、あなたのビジネスはAIに関してROIを最適化する選択と戦略的決定を行うことができる。

世界はまだ終わりませんが、本で学んだことを自分のビジネスに活かしていきましょう。超知性が出てくる時まで。

予測マシンを超えて、一般的な人工知能、さらには超知能へと移行したとき、そのときは、これまでとは異なるAIの瞬間を迎えることになるだろう。それは誰もが認めるところだ。その時には、経済学はそれほど単純なものではなくなると確信している。

草場壽一
https://sinlab.future-tech-association.org/