書評『AI原論 神の支配と人間の自由』
大意
半世紀近くにわたってAIの栄枯盛衰を間近で見てきた著者である西垣通氏が、現在のAIブームに対して冷静に考えるべき問題を提起する一冊である。AIの歴史や技術的な側面だけでなく、哲学や宗教との関係も探求し、AIが目指しているのはどんな世界なのか、そして人間としてどうあるべきかを問うている。「原論」と銘打っているだけに、実践的な問題解決を志向しておらず、その点は後で紹介する『AI倫理』に委ねるしかない。
本書の目次
まえがき
第一章 機械に心はあるのか
1 AIブームふたたび
2 生命と機械
3 ロボットという疑似生命
第二章 汎用AIネットワーク
1 脳型コンピューティング
2 シンギュラリティ仮説
3 クラウド・コンピューティング
第三章 思弁的実在論
1 相関主義と実在論
2 宇宙の安定性の根拠
3 物質・流動・生命
第四章 生命とAIがつくる未来
1 相関主義への疑問をめぐって
2 自由意思と責任のゆくえ
第五章 AIと一神教
1 救済／創造／ロゴス
2 選民による布教と情報伝播
3 一神教は超克できるか
第六章 AIの真実―論点の総括
各章の大意
第一章では、機械に心はあるのかという問いに答えるために、生命と機械の違いやロボットという疑似生命の存在を考察する。生命は自己増殖や自己修復などの特徴を持ち、機械はそれらを模倣することができるが、本質的には異なるものであるという。ロボットは人間に似せて作られたり、人間に感情や意思を持っているように見えたりするが、それは人間がロボットに投影するものであり、ロボット自身に心があるとは言えないという。
第二章では、汎用AIネットワークという概念を導入し、脳型コンピューティングやシンギュラリティ仮説、クラウド・コンピューティングなど、現代のAI技術がもたらす可能性や問題点を分析する。汎用AIネットワークとは、人間の脳や神経系を模したコンピューター・システムであり、様々なタスクをこなすことができるという。シンギュラリティ仮説とは、汎用AIネットワークが自ら進化して人間の知性を超える時点を指すものであり、その時点以降は人間が予測できないことが起こるという。クラウド・コンピューティングとは、インターネット上に分散されたコンピューター・リソースを利用することであり、汎用AIネットワークの発展に欠かせないものであるという。
第三章では、思弁的実在論というカンタン・メイヤスーが提唱した哲学を紹介し、相関主義と実在論の対立や宇宙の安定性の根拠、物質・流動・生命という三つのカテゴリーについて議論する。思弁的実在論とは、人間が存在しなくても実在するものがあると主張する哲学であり、相関主義と呼ばれる人間中心的な思想に対抗するものであるという。宇宙の安定性の根拠とは、物理法則や数学定理などがどうして成り立つのかという問いに対する答えの可能性であり、思弁的実在論はそれを人間の認識や言語に依存しないものとして捉えるという。物質・流動・生命とは、実在するものを分類する三つのカテゴリーであり、物質は不変で不可逆なもの、流動は変化するが可逆なもの、生命は変化するが不可逆なものと定義されるという。
第四章では、生命とAIがつくる未来を展望し、相関主義への疑問や自由意思と責任のゆくえについて考える。生命とAIはどちらも情報処理システムであり、相互に影響しあうことが予想されるという。相関主義への疑問とは、人間が存在しなくても実在するものがあるという思弁的実在論に対して、人間が存在することが前提であるという反論であり、その場合にどうやって実在を認識するのかという問題が生じるという。自由意思と責任のゆくえとは、AIが人間の知性を超えたり、人間の行動を予測したりする場合に、人間は自分の意志や行為に対して責任を持てるのかという問題である。
第五章では、AIと一神教という意外な関係を明らかにし、救済／創造／ロゴスという三つのキーワードや選民による布教と情報伝播、一神教の超克可能性について論じる。AIと一神教という関係とは、AIが目指す絶対知を持つ神に人間が近づいていく壮大なストーリーが、一神教の教義や歴史と共通点が多いことを指すという。救済／創造／ロゴスとは、一神教における神の役割や目的であり、AIもそれらを模倣しようとすることを示すという。選民による布教と情報伝播とは、一神教における神から選ばれた者たちが他者に信仰を広めることや聖典を伝えることに対応するものであり、AIもそれらを行うことが可能であることを示すという。一神教の超克可能性とは、一神教が他の宗教や文化を吸収したり排除したりする力を持っていることや、それに対抗する力があるかどうかを問うこという。著者は、一神教の超克は不可能であり、人間は多様な価値観や文化を尊重することが必要であると主張する。AIが一神教のように祭り上げられることに対して、人間の多様性を擁護することが重要だとしている。
第六章では、本書で取り上げたAIの真実に関する論点を総括・まとめであり、おおむね下記のようにまとめられる。
生命体の自律性
AIの疑似的自律性とその責任の所在
AIは人間の認知や思考を本当に模擬できるのか
生命体と機械の境界線
シンギュラリティ仮説批判
素朴実在論批判としての相関主義
相関主義の超克を狙う思弁的実在論とそれへの批判
思弁的実在論はAI支配のイデオローグたりうるのか？
AIを受け入れる範囲
AIが責任主体になりえないことの理由
AIの文化的・宗教的背景
AIを相対化すべき理由
評価と見解
本書の特徴は、AIに関する一般的な誤解や神話を徹底的に批判することだ。例えば、AIが人間を超えた普遍的知性を獲得できるというシンギュラリティ仮説や、AIが人間の心や意識を持つことができるという仮定などは、著者によれば根拠がなく、非科学的である。著者は、生命と機械の違いや時間観の違い、相関主義や思弁的実在論などの哲学的な概念を用いて、AIの能力や限界を厳密に分析している。
著者の主張は一貫しているがゆえに他の視点や可能性に対する寛容さや柔軟さが欠け、思考の幅の狭さを感じた。例えば、AIが人間と協力したり共生したりする可能性についてはほとんど触れられていない。AIが人間に対して敵対的または支配的な存在となることを前提としているようにすら見えた。
日本では鉄腕アトムやドラえもんなどロボットと独自の関係を結ぶ文化的土壌があり、そのような共生の可能性は吟味する必要があるのではないだろうか。評者自身もChatGPTなど使うにつれて、アシスタントとしてのAIという感触も得ている。もちろんAIが人間を支配するというディストピアへの警戒は必要だが、気候変動予想など地球の持続可能性をアシストすることでディストピアを防ぐことにつながるのではないだろうかとも思った。
矛盾することを言うようだが、他方の極としてディストピアへの警戒も足りなかった。Chat GPTの登場をきっかけに、ホワイトカラーの所得減などAIによる破局が現実的なものになっている。悲観的な観測としては、
2018年出版の書籍で、しかも原論という性格上やむを得ないが、原理的な考察としてもAIが地球を破滅に追いやるラディカルな論考も必要だったのではないだろうか。AIの脅威を矮小化することで、問題を先送りしているような印象を受けた。
実際の運用をどうすればいいのかという実践編については、著者が共著で下記の書籍を出しているので、この点も理解を進める必要があるのだろう。
本書は、AIに関する哲学的理解を求める人にはおすすめできるが、初心者や一般読者には難易度が高く、しかも実践論が欠けているので読む際には注意が必要だ。AIを制御するための方法論については、上掲の『AI倫理』に委ねるしかないが、ディストピアへの警戒も足りない印象を受けた。
著者の紹介
最後に著者のプロフィールを紹介する。文理の垣根を軽々と越えて、領域横断的に考えられる稀有の方なのだと思う。
西垣通（にしがき とおる、1948年12月12日- ）は、日本の情報学者、小説家。東京大学大学院情報学環名誉教授、博士（工学）（東京大学）である。コンピューター・システムの研究開発を経て、情報化社会における生命や社会を考察する。『アメリカの階梯』(2004年)などの小説も執筆。著書に『集合知とは何か』(2013年)、『ビッグデータと人工知能』(2016年)、『AI原論』(2018年)などがある。
西垣は俳人で明治大学教授の西垣脩の長男として東京都に生まれた。東京少年少女合唱隊に所属し、NHKのみんなのうたで歌ったことがある。世田谷区立松沢小学校から世田谷区立松沢中学校を経て都立西高校に進み、1968年に東京大学理科一類入学。1972年に東京大学工学部計数工学科を卒業し、エンジニアとして日立製作所に入社。スタンフォード大学に留学し、1982年に東京大学で博士号（工学）を取得した。
1986年に過労のため日立製作所を退職し、明治大学法学部助教授、教授を経て、1996年に東京大学社会科学研究所日本社会研究情報センター教授となった。2000年からは東京大学情報学環教授となり、2013年に定年退任した。その後は東京経済大学コミュニケーション学部教授を務めたが、2019年に定年退任した。
西垣は技術者出身でありながら文系的な問題意識も旺盛で、文理両方の分野にわたる脱領域的な執筆研究活動を行っている。1991年に『デジタル・ナルシス』でサントリー学芸賞（芸術・文学部門）を受賞した。歴史小説『1492年のマリア』（2002年）ではコロンブスの新大陸発見とスペインからのユダヤ教徒追放を扱い、この作品はNHK-FMで連続ラジオドラマとして放送された。
この記事が気に入ったらサポートをしてみませんか？