人を超えた知能と暮らす未来のため、いま協働するAI研究者たち：マックス・テグマーク『LIFE3. 0：人工知能時代に人間であるということ』レビュー①
（※この記事は2020/09/07に公開されたものを再編集しています。）
「え～、当時の人工知能は、汎用性に乏しい初歩的なものでしたが…」
山田胡瓜『バイナリ畑でつかまえて』には、「人類は投了しました」というマンガが収録されている。冒頭は、歴史か何かの授業風景だ。「え～、当時の人工知能は、汎用性に乏しい初歩的なものでしたが…、それでも将棋や囲碁といった知的スポーツの世界では、人間がコンピュータに勝つことはほぼ不可能になっており…」と、歴史か何かの教師が語る。続いて登場するのは、汎用人工知能が社会に溶け込んで、「ひらめき」が人間の専売特許でなってからも、将棋においてひらめきを追い求める人物である。
松島幸太朗『永遠の一手』（伊藤智義原作, 秋田書店）も、将棋AIが人間と同等以上の力を持った世界を扱っていることからもわかる通り、「テクノロジーが人間を超えるとき、人はそれとどう付き合うのか」という問題は、ポピュラーカルチャーにおいて、よくある主題になりつつあるのだろう。
しかし、「人類は投了しました」と『永遠の一手』では、テクノロジーと人間の付き合い方（あるいは、AIと将棋業界の付き合い方？）が少し異なる。前者には、将棋AIと戦う中で自分の能力や創造性を試そうとする姿勢がうかがえるのに対して、後者では、棋士が特定の（企業の）AIとタッグを組む姿にフォーカスが置かれている。つまり、IA（Intelligent Amplifier）、人間の知能補強として将棋AIを利用する未来である。
もちろん、これらは対立する見解ではない。だが、少なくともスポットを当てる場所や強調する点が多少異なっており、それゆえ、これらのマンガの中に、技術観の違いだけでなく、人間観の無視できない違いを見出すこともできる。
AIをめぐる様々な立場
マックス・テグマークは、マサチューセッツ工科大学の理論物理学者であり、今回扱うのは、『LIFE3. 0：人工知能時代に人間であるということ』（原題, LIFE 3. 0: Being Human in the Age of Artificial Intelligence）という、2017年に出版された彼の新著である。
『LIFE3. 0』の序盤で、人間レベルの汎用人工知能（AGI）が現れるのがいつであり、それが人間に対して与える影響をめぐって様々な立場があると指摘し、それを分類している。やや楽観的な二つの立場から触れていこう。
まず、Google共同創業者のラリー・ペイジに代表される、「デジタルユートピア論」だ。ラリー・ペイジが恐れていたのは、「AIに対する被害妄想のせいでデジタルユートピアの実現が遅れたり、『邪悪になるな（Don’t be evil.）』というグーグルのかつてのスローガンに反するようなAIが軍事組織に独占されたりすること」である（p. 53）。機械が意識を持つ未来を肯定する彼は、「デジタルの心を抑圧したり奴隷にしたりするのではなく、解放してやれば、ほぼ間違いなく良い結果が訪れるという立場」を採った（p. 52）。
ロボティクス研究のハンス・モラヴェック、シンギュラリティ論で有名となった発明家で実業家のレイ・カーツワイル、強化学習の専門家たるリチャード・サットンもこの立場に与するものと理解できる。
同じくAIに対して懸念を抱いていない立場に、「技術懐疑論」がある。この立場は、「超人的なAGIを作るのはあまりにも難しくて、今後何百年も実現しないのだから、あいま心配するのはばかげているという考え」を採る。バイドゥの技術者、アンドリュー・エンは、「火星が人口過密になるのを心配するようなもの」とそれを表現している（p. 54）。これに類する発想は、ロボット掃除機のルンバ開発の立役者として知られるロドニー・ブルックスによっても語られている。
AI安全性研究
先に見たのは、AIが社会や人間に生じさせるリスクを低く見積もる立場だったが、より慎重な立場もある。「有益AI運動」とテグマークが名づけた立場である。AI研究者のスチュワート・ラッセルがこの立場の代表格であり、本書はそれをこうまとめている。
スチュワートは、AIの進歩のスピードを考えると今世紀中に人間レベルのAGIが出現する可能性は間違いなくあり、期待は抱いているものの良い結果になるという保証はないと話してくれた。何よりも先に答えを出さなければならない重要な問題がいくつかあるが、きわめて難しい問題なので、必要となるまでに答えが得られるよう、いまから研究を始めるべきだという。（p. 55）
スチュワート・ラッセルと同様の立場の人物として挙げられるのが、アラン・チューリング、数学者のアーヴィング・グッド、そして、『スーパーインテリジェンス』で知られるオックスフォード大学の哲学者ニック・ボストロムである。テグマークは、この立場を、ともかくAIに関する不安を煽ってAI研究の進展を阻害しようとする「ラッダイト」と混同しないようにと注意を促している。
テグマークの議論のポイントは単なる分類ではなく、AI研究に与しながらも対立し、建設的な交流が存在しない三つの立場を、どのように協働させるかということにあった。旺盛な行動力で知られるテグマークは、スチュワート・ラッセルも示唆している「AIの安全性をめぐる研究」（AIの安全学）を推し進めるべく、AI安全性研究に資金提供を行う「生命の未来研究所」を設立した。
それだけでなく、安全性研究に関わる国際学術会議を二度主催し、二度目の会議では、AI業界内外を巻き込んだ、安全性に関する「アシロマAI原則」をまとめ、AI安全性研究へと業界を向かわせる舵取りを行った（同原則には、5000名以上の研究者やその他の人びとが賛同の署名をしている）。
本書は、彼がAI安全性研究のための土台を作り出すための行動や交流、試行錯誤の軌跡を描くとともに、なぜそのような研究が必要なのかという理由の説明をする本だと言える。
マックス・テグマーク『LIFE3.0：人工知能時代に人間であるということ』（Kindleあり）
山田胡瓜『バイナリ畑でつかまえて』（Kindleあり）
松島幸太朗『永遠の一手：2030年、コンピューター将棋に挑む 上』（Kindleあり）
マックス・テグマーク（Max Erik Tegmark, 1967-）
ニック・ボストロム『スーパーインテリジェンス：超絶AIと人類の命運』（Kindleあり）
アシロマAI原則
後編に続く
2020/09/07
著者紹介
博士（人間・環境学）。1990年生まれ、京都市在住の哲学者。
京都大学大学院人文学連携研究員、京都市立芸術大学特任講師などを経て、現在、京都市立芸術大学デザイン科講師、近畿大学非常勤講師など。 著作に、『スマホ時代の哲学：失われた孤独をめぐる冒険』（Discover 21）、『鶴見俊輔の言葉と倫理：想像力、大衆文化、プラグマティズム』（人文書院）、『信仰と想像力の哲学：ジョン・デューイとアメリカ哲学の系譜』（勁草書房）、『ネガティヴ・ケイパビリティで生きる』（さくら舎）など多数。
この記事が気に入ったらサポートをしてみませんか？