『貴方の無意識』に『意識』はあるのか

　最近AI関連のニュースやトークセッションを見るたびに思うこと最近AI関連のニュースやトークセッションを見るたびに疑問に思うことがある。

　『我々が接しているAIに関する問題は本当に未曽有の事態なのか？』だ。

　Machine Learningを採用したシステムが様々な分野に入ってきているのは事実だが、だからといってそれほど世の中の仕組みは変わらない。何故ならAIで実装したかどうかは問題ではなく、判断や処理を委任できる『システムがある』ことが重要だからだ。そういう意味ではプログラミングや産業革命、あるいは水車などが引き起こした人間でないモノが実行する自動化のパラダイムシフトの延長上にある出来事でしかない、ともいえる。

　最近、システムという言葉が非常に気になっている。wikipediaによると、

システム（system）は、相互に影響を及ぼしあう要素から構成される、まとまりや仕組みの全体。一般性の高い概念であるため、文脈に応じて系、体系、制度、方式、機構、組織といった多種の言葉に該当する。

といったなんとも煮え切らない説明が書かれている。大辞林だと、

①個々の要素が有機的に組み合わされた，まとまりをもつ全体。体系。系。
②全体を統一する仕組み。また，その方式や制度。
③コンピューターで，組み合わされて機能しているハードウエアやソフトウエアの全体。

こっちだとまだイメージに近い。要するに機構や仕組みのことだ。AIについての諸問題について考えているとき、結局我々はMachine Learningそのもの、というよりもシステム全般についての疑問や問いを持つことが多い。その証拠にAIと書かれている部分をコンピュータでもプログラムでもシステムでも、どれに置換しても言いたいことは変わらない。

　システムの問題は理系文系関係ない。民主主義は大量の人が重要な事項について合意・決定するためのシステムだし、社会保障などもシステムだ。我々は意思決定を簡便化するためにシステムを積極的に構築している。むしろ仕事と言われるもののほとんどはシステムの設計/実装と運用に他ならない。システムは我々個人の意識の外で動く。我々はシステムを作り上げるとき、システムを意識するが、完成し、それが正常に動作するときは意識しない。発生する例外や、自分の意図した通りでない挙動を示すと我々は再びシステムを意識する。このあたりの話は正常性バイアスの話と繋がっていくが、それはまた別の機会に。

　システムは社会や会社の中だけでなく、個人の中にも存在する。平たく言うと我々の体が持つ『無意識』というのは我々の『意識』のあずかり知らぬところで自動的に動くシステムだ、と言える。例えば手続き記憶は自分の中にある意識の外のシステムの代表例だ。何度も意識的に目の前のコップを掴む動作をすると、意識せずともコップを掴めるようになる、というのが手続き記憶だ。全くもってMachine Learning的である。しかも非常によくできている。我々は個人のレベル、1個体のレベルでも意識を手放したがっている。

　AIに知能が発生しうるのか？という問いをよく見るが、その問いにはかなりAIに意識があるのか？という意図が含まれている。逆にどうだろうか。我々には常に意識があるのだろうか。無意識というシステムに主導権を奪われていないだろうか。本当に他人には意識があると断定できているのだろうか。他人というものは結局、哲学的ゾンビではないだろうか。あるいは自分の無意識に意識があると感じたことがあるのか。

　もっと突き詰めると我々は何故そこまで意識を重要視する、いわば意識至上主義なのか。意識があれば正確な判断は本当に可能なのか。

　私はシステムと意識の問題にもっとフォーカスしたい。この問題はエンジニアリングやテクニカルディレクション、システムについての諸問題と密接に連携している。