AI（人工知能）の次に生まれるAC（人工意識）は天使か悪魔か？（倉田幸信）

倉田幸信　「翻訳者の書斎から」第8回
"Rethinking Consciousness: A Scientific Theory of Subjective Experience" （“意識”再考：主観的経験の科学的仮説）
by Michael S.A. Graziano（マイケル・S・A・グラツィアーノ）
2019年9月出版

目を閉じて、リンゴの赤さを思い浮かべてほしい──。
コンピュータで色指定するような数値データではなく、「あの赤さ」としか言いようのない主観的経験として、我々はリンゴの赤さを知っている。光の特定の周波数という物理現象ではなく、生々しい体験として「あの赤さ」を知っている。それは、赤さを主体的に味わう“意識”が我々にあるからだ。

AIやコンピュータがどれだけ発達しても、意識は持てない。どれほど精緻に脳を再現しても、そこに意識は生まれない。なぜなら我々は「意識が生まれる仕組み」を知らないからだ。意識は物理的実体を持たないので、脳のどの部位にあるのか、そもそも脳にあるのかさえわからない。観察も検出もできない。
そのため、意識というのは主に哲学や文学の対象であって（「我思う、ゆえに我あり」）、科学の対象にはならなかった。専門家の間には、意識を科学的研究の対象にするのが適切なのかという議論（「意識のハード・プロブレム」）さえあるほどだ。
そこに一石を投じようというのが本書だ。筆者はプリンストン大学教授で脳科学者のマイケル・グラツィアーノ。彼は意識が生まれる仕組みを科学的に解明するため、「アテンション・スキーマ（注意力図式）」と呼ぶ仮説を提唱する。この仮説が正しければ、意識はひとつのメカニズムとして科学的に説明でき、哲学や文学ではなく工学（エンジニアリング）の対象となる。理論的にはいずれ「意識を持つ機械」すなわち「AC（人工意識）」さえ作れるはずだ、という。

脳内にある「注意力の簡易モデル」が意識を生む

グラツィアーノはまず、進化の歴史をさかのぼって意識の源を探る。そして、カニの複眼が人の脳神経の仕組みを知るひな形になるという。カニの複眼には光の検知器が多数あり、ひとつの検知器にはひとつのニューロン（神経細胞）がある。ある検知器が光を検知すると、そのニューロンが活性化されると同時に、周囲の検知器のニューロンは活性化しないよう抑圧される。要するに、デジタル写真でコントラスト増強の加工をするようなものだ。
グラツィアーノはこれを、「脳の注意力を奪い合う競争」と表現する。外界にある無限の情報──光、音、風、匂い──のすべてに注意を向ける（＝情報を処理する）のは不可能であり、生存にとって重要なものだけに注意力を向ける必要がある。生命は何億年もかけて、進化の過程でそのような仕組みを構築してきた。高等生物のニューロンは、限りある脳の注意力を奪い合う競争をするのだ。

人の脳神経も基本的に同じ仕組みになっているという。これは実感として理解できる。私の脳には、ものすごい量の情報が詰まっているはずだ。友人知人の顔や名前、一般常識、過去の記憶。そのうえ、目の前の現実世界は音や映像や匂いなど膨大な情報をリアルタイムで伝えてくる。
私の脳はそれらすべてを同時に把握はできない。膨大な情報のほんの一部──「その瞬間に最も大事だと思われるもの」だけに注意を向け、スポットライトを当て、それを「意識」する。そしてそのスポットライトの当たる先は刻一刻と移り変わる──。
人はこの「注意力の向かう先」をコントロールできる。しかも、体の向きを変えたり、視線を移動させたりせず、脳内だけで注意力の向かう先を動かすことができる（これを専門用語で「隠された注意力＝covert attention」と呼ぶ）。例えば、視線は目の前のテレビに向けたまま、背後の食卓で自分の話をしている家族の会話に聞き耳を立てたりできる。

筆者はこの「隠された注意力」をコントロールするためには、脳内に「注意力の見取り図」があるはずだとして、身体の各部位をコントロールするための「ボディ・スキーマ（身体図式）」にならい、これを「アテンション・スキーマ（注意力図式）」と名付ける。ボディ・スキーマが脳内にある自分の身体の簡易モデルだとすれば、アテンション・スキーマは自分の注意力の振り向け先を脳が把握するための簡易モデルだ。
アテンション・スキーマは効率的に注意力をコントロールするため、対象の詳細な情報は持たない。現実の対象物より簡易化されたモデルとして対象を把握する。そのような簡易モデルを通して対象を理解する過程こそが我々の主観的経験であり、そこから“意識”が生じるのではないだろうか──。これがアテンション・スキーマ仮説の概要である。
もしこの仮説が正しいなら、機械にアテンション・スキーマのような内部モデルを持たせることで、主観的経験をし、意識を持つ機械を生み出す道筋が見えることになる。

意識を持つ機械は人間に「共感」できる

AIに関する発言の多いユヴァル・ノア・ハラリは、AIとACが混同されているとたびたび指摘している。AIは問題解決のためのアルゴリズムであって、AIがどれほど進化しても自意識や感情を持つことはない。人間に好意を持ったり、人間を裏切って滅ぼそうと考えるようなことは決して起きない、という。
では、仮にアテンション・スキーマ仮説が正しく、いずれ自意識を持つACが生まれたら、そのACは人類を敵と見なすのだろうか？　グラツィアーノの意見は正反対だ。人は他人にも自分と同じ意識や感情があると知っているからこそ、他人に優しくしたり共感したりできる。それどころか、ぬいぐるみやペットなど、意識を持つかどうか不明な対象にさえ、意識があると想定して愛情を抱くことができる。もし意識を持つ機械が登場すれば、その機械は感情を理解しないAIと違い、人の気持ちを理解できるようになるだろう。非人間的な思考回路を持つAIと違い、ACは人間的な機械になるだろう。そのような機械は、人間を感動させるような小説や音楽さえ作れるだろう。

筆者は、AIの認知能力が飛躍的に進化した今だからこそ“意識”をエンジニアリングする必要性が高まっているという強い問題意識を持っている。とはいえ、本書は専門家向けではなく、脳科学の専門知識がない一般人でもすっと読める内容だ。ともすれば抽象的で重々しくなりがちな“意識”というテーマを、明るく楽しく気楽に書いた読み物である。昨今、AIに関する本は山ほど見かけるが、ACを論じた本はめったに見かけない。しかも第一線の脳科学者が一般向けにやさしく書いた本書はとても貴重だと思う。

Rethinking Consciousness: A Scientific Theory of Subjective Experience (English Edition)

執筆者プロフィール：倉田幸信　Yukinobu Kurata
早稲田大学政治経済学部卒。朝日新聞記者、週刊ダイヤモンド記者、DIAMONDハーバード・ビジネス・レビュー編集部を経て、2008年よりフリーランス翻訳者。