人工意識について（１）：２つのメリット

実は、人工意識をつくることを目指している。

こう聞くと、何かとんでもないことをやっていると思われるかも知れない。でも、実のところは、人工知能や人工生命が本来は知能や生命の理解を深める学問であるように、人工意識というのは意識を理解するためのアプローチだと思っている。

人工的に意識を構築するというやり方を考えることには、従来のニューロサイエンスによる意識を研究では得られないメリットがあり新しい視点をもたらしてくれる。そのメリットとは次のふたつ。

１．観念的な概念の数理的な具体化
２．自然に観測されているものの外への拡張

概念の数理的具体化
グローバルワークスペースとかHigher Order Theory (HOT)理論とか、意識の概念的な理論というのはたくさんある。しかし、それを実際にAIとして実装しようと考えると、実のところ何をしたらその理論が意識だと想定している対応物の実装となるのか不明なことが多い。実装を考えることで一歩踏み込むことができ、その結果、意識の理論と呼ばれているものは実装できるほど内容が具体化されていないことがわかる。

例えば、グローバルワークスペースは、機能特化型のモジュールの計算結果の情報が、全体にブロードキャストされて、それがフレキシブルに自由に使えることで、多様な認知機能が実現されるという考えだ。だが、このままでは実装できるない。現代的なディープラーニングのアーキテクチャで実装したらどうなるのか考え始めると、元の理論の言葉についてを解釈しないとならなくなる。BengioのConsciousness Priorというのは、グローバルワークスペースの実装アイデアなの一つであるが、まだまだ概念的な話に終止している。なんというか、数式で書こうとすると、意識の理論はチープな感じになってしまう。

でも、ニューロサイエンスででてくる意識の理論というのを、いざ実装してみようと考えることで、これまで曖昧だった概念（ブロードキャストとか）が明確になることがある。例えば、グローバルワークスペースのアーキテクチャを人工知能の作り方として考えてみることで、このアーキテクチャに汎用性をもたらす可能性がありそうだという仮説などがでてきている。

Higher Order Theoryには、いろいろなバージョンがあるのだが、ここで重要な概念であるメタ表現というのがどういうことなのか、実装を考えると明確に定義されていないことがわかる。例えば、入力刺激 xを変換したf(x)をxの表現と読んだ場合、このf(x)のメタ表現とは何を指すのか？

認知神経科学では、確信度をメタ認知の指標として使ってきたが、それは実装を考えれば、ちょっとSoftmaxを入れればできてしまうことで、もしそれで意識が生まれるのであれば、そんなことは現代のニューラルネットは常にやっている。メタというのは、そういうことではない。

このあたりのことは、かなり乱暴ではあるけれど、人工意識と汎用人工知能について日本語で書いた予稿で議論したことがある。これは、もっと内容を丁寧に書いて論文にしようと思うが、エッセンスだけ述べると、先の例ではfというプロセス（射）をモノ（対象）として扱う変換だと考えている。これはメタ学習に使え、転移学習の意味での汎用性に直接利用が可能となる。

意識研究における概念を数理的に具現化していくことで、意識の理論と言われているものを一段深めることができる。これが人工意識の研究開発のメリットの一つだと思う。今では、人工意識という構成論的な考え方をしたことで、グローバルワークスペースもHOT理論も、実装可能な概念に変換する方法がようやく見えてきたという段階にきている。

自然に観測されているものの外への拡張
人工意識の研究をするもう一つのメリットは、脳以外に宿る意識を考えることだ。

実は意識についての考え方で、それが理論と呼ぶべきものであるかを判定するためには、その理論を用いることで、任意の物理システムに意識が宿っているのかを判定することができるかを見ればよい。つまり、意識の理論が、それが理論の体をなしているのか判定するためには、それが宇宙人やAIに意識があるのかの理論上の判定基準を提示できているかをみればよい。

先程の、グローバルワークスペースやHOT理論を当てはめて、コンピュータに意識があるのか判定する基準は明確になっていない。だから、意識という自然現象の持つ自然法則を記述する理論としては、まだ未熟ということになる。

そのような認知モデル（概念モデル）は、数理的に解釈しなおす必要がある。実のところ、統合情報理論以外は、この意識判定を原理的に可能とするかという基準を満たした理論はないように思える。

この考えは、意識は自然現象であるという思想が根本にある。意識が自然現象であるからには、それには発生する必要十分条件があり、それについて数理的に定義された基準で判別ができなければならない。統合情報理論自体が、最終的に正しいのかはわからないが、自然法則として任意の物理現象に対して、意識の判定基準を提示するという理論の体系をしめしたことで、意識の理論とはどのような形なのかを明確に示したという功績が、非常に意義深いと思う。

こういうことを思って、前回・前々回の情報やモデルをIntrinsicに定義したいという考えに至っている。

（つづく）