人工知能の行く先と、人間に残される価値
素晴らしい一冊に出会ったので紹介します。
タイトルは「相対化する知性」。著者は東京大学の松尾豊先生ら3人です。
3月25日に発売したばかりですがあまりに面白く、
「人工知能が進化する世界で、人間に残る価値とは何か」という点について思うことがあり記事を書きました。
人間を超える知性の出現
人間は現在地球上において支配的な存在です。
「サピエンス全史」や「ホモ・デウス」の著者ユヴァル・ノア・ハラリは、人間が他の動物を支配できた大きな理由の一つは知性であると指摘しています。(※1)
しかしながら近年の人工知能の進歩は目覚ましく、2017年には人工知能のアルファ碁が世界最強の棋士、柯潔（カ・ケツ）九段を破りました。
写真：アルファ碁との対決に破れ涙する柯潔九段
今後はこの流れがますます加速し、様々な分野で人間の能力を超える人工知能が生まれることでしょう。
その結果、何が生じるのか？
それは、「地球上で最も知性的な存在が人間でなくなる」ということです。
「最も知性的な存在」が人間から人工知能へと変わることで、どのような変化が生じるのでしょうか？
人工知能は人間が理解できないかたちで世界を記述する
ここで、「私たちはどういうときに『理解した』と感じるのか」を考えてみます。
著者らは、
「対象をなるべく少ないパラメータ数で記述し、予測できること」が理解であると主張します。
例えば、ニュートンの運動方程式「ma = F」は物体の運動を「質量m、加速度a、力F」のたった3つのパラメータ（変数）で記述できており、しばしば「美しい方程式」と表現されます。
このように、「より単純な理論がより望ましい」という考え方は「オッカムの剃刀」として科学界ではよく知られています。
一方で、人工知能は「従来の科学よりもはるかに多いパラメータ数で対象を記述し、予測する」ことを得意としています。
例えば、Googleが開発し2014年に画像認識コンテストで優勝した人工知能GoogLeNetは600万以上（！）のパラメータを用いて画像を分類しています。(※2)
これは文字通り「桁違い」のパラメータ数であり、もしニュートンがこのパラメータ数を知ったら「汚いアルゴリズムだ」と苦言を呈したかもしれません。
ここで疑問となるのは、なぜ従来の科学は「なるべく少ないパラメータ数」を目指してきたのか、という点です。
Preffered Networksの丸山宏先生は「人間の認知限界」にその理由を見出しています。(※3)
すなわち、「人間は脳というハードウェアによって思考能力が物理的な制約を受けている。パラメータ数が増えすぎるとその制約を超えるため『理解』できなくなる。そこで、人間にとって認知負荷が軽い少パラメータによる記述が望まれてきた」ということです。
これは裏を返せば、「多パラメータを許容すれば（『人間には』理解できないが、）世界をより良く記述できるかもしれない」ことでもあります。
これこそが脳というハードウェアの制約を受けない人工知能の強みであり、「人間には理解できないほど多くのパラメータを使って世界を記述し、予測する」という流れは今後ますます加速するでしょう。
将来的にはSiriやAlexaが持ち主についての膨大なビッグデータから
「あなたは（聞いたこともない）この会社に就職するのが良いでしょう」
「あなたはニュージーランド在住の（会ったこともない）この人と結婚するのが最適です」という、
「私たちには理解できないけれど（おそらく）正しい」結論を導き出すようになるかもしれません。
（それを無条件に受け入れるかどうかはまた別問題ですが。）
「超人類」が生まれるかもしれない
また、人工知能をはじめとしたテクノロジーの進歩は、様々な能力が常人よりもはるかに強化された「Beyond Human（超人類）」を生み出す可能性があります（※Beyond Humanは造語）。
イメージしやすい例で言えば、以下などが考えられます。
・コンピュータと脳を接続する
・赤外線が「見える」ようになる
・ナノテクノロジーで造られた人工赤血球により呼吸が1時間に1回で済む
イーロン・マスクが率いており、脳に電極を直接刺してコンピュータとの接続を目指すNeuralink社(※4)や、東大の渡辺正峰先生が立ち上げた「コンピュータ上への脳のアップロード」を目指すMinD in a Device社(※5)などもこういった「超人類」を目指す方向性にあると言えそうです。
それでも人間は考えることを止めない
ここからが本書のキーポイントの一つであり、最も勇気をもらった部分でもあります。
ここまで見てきたように、以下の流れはますます加速し、人類に計り知れないほどの恩恵を与えるでしょう。
① 人工知能が、人間には理解できないかたちで世界を記述すること
②「Beyond Human（超人類）」を目指す流れが加速すること
一方で、人工知能が導き出した結論の根拠を人間は理解できないため、「人工知能さまが言ってるんだから正しいだろう」と思考放棄したり、超人類の思うがままに支配されたりするとしたら、それはディストピアでしょう。
将来において、（普通の）人間は無用の存在となってしまうのでしょうか？
そうではない、というのが本書の主張です。
たしかに、将来における科学の進歩や技術の発展の大半は人工知能や超人類によって生み出されるかもしれません。
しかしながら本書では議論の末に、
「人工知能を含めたすべての知は絶対的真理である保証はなく、いずれ『間違いであった』と判明するかもしれない」
という点を指摘し、だからこそ、
「様々な答えを導きうる（普通の人類を含めた）多様な存在が共存することが重要である」と結んでいます。
いずれ人工知能はクリエイティブな分野（アート、サイエンスなど）においても人間を超えていくことは間違いない、と私は考えます。
（既に人工知能が描いた絵が4000万円を超える金額で落札されたり(※6)、手塚治虫先生のマンガをもとに新たな作品を創作する取り組み(※7)が行われたりしています。）
それでも絵を描き続ける人はいるだろうし、音楽を創る人は消えないと思います。
同様に、この先どれだけ人工知能が進歩しようとも、身の回りの小さな疑問について、世界について、真理について探究する人は存在し続けるのでしょう。
その中から、人工知能が思いもしなかったような画期的なアイディアやイノベーションが生まれる可能性は存在し続けます。
ゴーギャンは名画「我々はどこから来たのか 我々は何者か 我々はどこへ行くのか」（※見出し画像の絵）を通じて人類の過去・現在・未来について疑問を投げかけました。
「どんなに人工知能が進歩しても、多様な人々が自らの情熱を追求することはより良い世界を創るために決して無駄でなく、それこそが人間である。」
これが私が本書を読んで最も感じたことであり、ともすればディストピア的に捉えられかねない未来への希望を強く抱かせてくれる一冊でした。
（一方でこの結論は、「人間の価値は『無駄でない』程度しか残らない」と捉えることもできます。どう捉えるかはその人次第ですが、少なくとも私は「いつになっても人間の価値は消えない」という点に希望を感じました。）
P.S. 内容が濃すぎて全く書ききれなかったのですが、本文中には自由エネルギー原理(※8)の話や統合情報理論(※9)の話が出てきたり、マルクス・ガブリエルの新実在論(※10)や、量子力学について言及したりと、対象範囲がものすごく広いです。
また、本書の第2章には「強い同型論」という概念が登場し、これによって「知るとは何か」ということを一元的に説明しようと試みています。この「強い同型論」こそが本書の鍵となるのですが、このnoteでは触れることができませんでした。
正直、一読しただけでは理解できない部分も多々あったので、これから何度も読み直そうと思います。興味を持ったみなさんもぜひ読んでいただき、議論できたら嬉しいです！
脚注
※1. 「サピエンス全史」 https://amzn.to/3aoYkJj
※2. 「画像認識のための深層学習の研究動向」 https://jsai.ixsq.nii.ac.jp/ej/index.php?action=pages_view_main&active_action=repository_action_common_download&item_id=2105&item_no=1&attribute_id=22&file_no=1&page_id=13&block_id=23
※3. 「高次元への誘い」 https://japan.cnet.com/blog/maruyama/2019/05/01/entry_30022958/
※4. Neuralink社 https://www.neuralink.com/
※5. MinD in a Device社 https://mindinadevice.com/
※6. "Is artificial intelligence set to become art’s next medium?" https://www.christies.com/features/A-collaboration-between-two-artists-one-human-one-a-machine-9332-1.aspx
※7. TEZUKA2020 https://tezuka2020.kioxia.com/ja-jp/index.html
※8. "A free energy principle for the brain"
https://www.fil.ion.ucl.ac.uk/~karl/A%20free%20energy%20principle%20for%20the%20brain.pdf
※9. "An information integration theory of consciousness"
https://bmcneurosci.biomedcentral.com/articles/10.1186/1471-2202-5-42
※10. "Fields of Sense" https://amzn.to/3dCV7rx
「我々はどこから来たのか 我々は何者か 我々はどこへ行くのか」（2021年1月27日 (水) 23:51 UTC）『ウィキペディア日本語版』
（ヘッダー画像出典）
この記事が気に入ったらサポートをしてみませんか？