意識科学会イージー・プロブレム？ ハード・プロブレム？OpenAI/ChatGPTはどっちに挑戦？(その２）

「意識科学会イージー・プロブレム？ ハード・プロブレム？OpenAI/ChatGPTはどっちに挑戦？」（その１）の続きです。

言語・コミュニケーション論における意識

現在言語学の研究では言語の音声・音韻、形態、統語、意味の構造とその機能について格段の進歩を遂げています。しかしコミュニケーションという要素を加えると途端に意識とか意志や意図などの問題が生じてきます。ゆえにコミュニケーションから切り離し言語内intralinguistic分析に徹し言語外extralinguistic分析を極力排除してきました。客観的言語分析の伝統が20世紀言語学の主流を占めました。

おかしな話です。言語はコミュニケーションの重要な表現様態です。E・デュルケームDurkheimの言う社会的事実（social fact)であり、それは個人の意識が蓄積され抽象化された集合的意識(collective consciousness)の結晶です。個人の意識を拘束する規範的意識としての側面を持ちます。言語研究は大いに意識に関わるべきところ、それを欠いた客観的、物理的言語構造と機能の研究に特化してきたことになります。チャルマーズの言うイージー・プロブレムに専念してきたということです。

Google AIの目標に掲げた”to create new experiences"の経験とは

OpenAIに加えてGoogle AIも参入し目標を次のように掲げています。

Generative AI can not only create new text, but also images, videos, or audio. Explore how teams at Google are implementing generative AI to create new experiences.　 （Discover Generative AI Overview Google AI）

と、新たなテキストのみか、静止画、動画、オーディオを創造し、新たな体験（new experiences）創造することを目指すようです。ここでいうnew experiencesとはチャルマーズのいう意識的経験でしょうか。AIは人間と同じように意識を持ち意識的経験をするということでしょうか？巷間、ChatGPTが小説、詩、科学論文を書いているとの囁きが聞こえ、AIはどの程度人間にとって代わるのでしょうか？[*1]

現在のところ、人工知能はヒトの知能をはるかに超えるかもしれませんが、意識は持ちえません。ヒトには知能とともに意識があります。ヒトの言語処理におけるメッセージの生成発信と受信理解のプロセスには「意識」が伴うのです。言語の字義を超えた含意を生成・理解できます。ヒトの言語活動には哲学用語でいうqualia「クオリア感覚質」が伴います。チャルマーズの主張するハード・プロブレムを言い換えると、イージー・プロブレムが究明する物理的客観的な構造・機能メカニズムからどのようにしてqualiaが生じるのか？ということになります。

ヒトの言語理解にみる意識のqualia「感覚質」とAIの限界

別稿「Google Translate (GT)の新バージョンGoogle Neural Machine Translation (GNMT)について（後編）ー機械翻訳考（その２）」で、高質の翻訳（quality translation）には、原文サイドと訳文サイド両方で理解力（understanding）、特に言語の理解（understanding language）が不可欠と述べました。「高質の」とは言い換えれば「qualiaを伴う」といことです。

自然言語処理と哲学専攻のJohn Haugelandは、1990年の “The Prospects for Artificial Intelligence”と称する論文にて、AIの自然言語 （natural language） 処理は言語的要素に焦点を当てるが、ヒトの言語のやり取りにはそ超言語的要素があると指摘しています。その発表4年後に出るチャルマーズ論文をサポートする良例と思えるので簡単に紹介します。

W.V.O. Quine のホリズム/全体論（holism）に倣い、ヒトの言語理解understanding languageには、次の（1）～（4）のホリズム（holisms）が総合的に作用すると述べています。

（1） 意図ホリズム（the holism of intentional interpretation ）[*2]
（2） 常識ホリズム（the common-sense holism）[*3]
（3） 状況ホリズム（the situational holism）
（4） 存在ホリズム（the existential holism）

いずれもqualiaに直結しますが、以下、（３）と（４）では、イソップ物語などの逸話の理解に関するヒトとAIの違いが指摘されています。

ヒトがイソップ物語を理解する時、物語の世界と現実世界を行ったり来たりして調和させる

（3）状況ホリズムの例です。

「Khojaが井戸を覗き込むと月が映っている。Khojaは鍵のついたロープで月を釣り上げようと思いロープを垂らすと、何かに引っ掛かったので思い切り切り引き上げたところ、繋が外れ、彼は尻餅を突き仰向けに倒れる。すると空に光る月を見て、元に戻ったと喜ぶ。」

この話の聞き手は、Khojaの世界の（物語的）「状況」と現実世界の「状況」を比較しながら理解します。現実はそうでは無いが、Kohja は井戸に月が落っこちたと思ったのだな、自らが井戸から月を引っ張り上げたと思ったのだな、という具合です。おとぎ話に留まらずいかなる話の理解にも当てはまります。話を聞く際に、私たちは、語り手の状況と私たち自らの状況の違いを知った上で理解しようとする筈です。相手の立場になって話を聞き理解するとはそういうことではないでしょうか。そこには言語構造の解析を超えたqualiaの作用があります。

ヒトは人生体験から物語から言語を超えたメッセージを抽出する

（4）存在ホリズムの例です。

「農場で農場主の息子が誤って毒蛇の尻尾を踏み、噛まれて致命傷を負った。怒った農場主は斧で蛇の尻尾を切り落とす。すると蛇は怒って農場の牛全部を噛んで殺してしまった。そこで農場主は蛇のところに土産をもって行き、「お前は尻尾を俺は息子と牛を失った、これでおあいこだ、仲直りしよう！」と言うと、蛇は、「いやいや俺もお前も失った大切なものは元に戻らない、帰ってくれ！」と言い捨てた。」

現在ガザ、ウクライナをはじめ世界で起きている紛争の多くはこのおとぎ話に集約されます。私たちはこのような話を聞きながら、これまで積み上げた人生体験で理解しようとします。割り切れない筆舌しがたい人の世の悲哀がが伝わってきます。すなわちqualiaをもって理解するわけです。

加えて、（2）、（3）、（4）の3 つのホリズム（holisms）は、前もって想定し得る事前ホリズム（prior-holism）ではないことに注意すべきです。その時その場でライルタイムに作用するリアルタイム・ホリズム（real-time holisms）です。AIは大量な言語データを瞬時に解析できる点でヒトの能力をはるかに超えています。何倍も否何十万倍も優れています。しかしそれは前もって集めたデータ（prior-data)の解析、言い換えれば、事前ホリズム（prior-holism）に基づいた解析にすぎません。リアルタイム・ホリズム（real-time holisms）に対応する処理能力は持ちえないと言い切っています。

ヒトの主観的情緒・感情emotionは無限、すなわち意識は無限でリアルタイム、果たしてAIがこの領域まで侵略してくるのでしょうか。それともチャルマーズの言うようにヒトを含め他の生物に備わった意識は先天的異次元なものなのでしょうか。いずれにせよ当面ヒトは意識があることを武器にしながらAIに対抗するしかありません。イージー・プロブレムか？ハード・プロブレムか？の議論はさておき、意識が創生するqualiaで勝負できる場を求めることになりそうです。皆さんはどう思いますか？

最後に、別稿「目指す学問の"本場"か？現地で認可されている正規のプログラムか？正規の学位か？...留学チェックポイント－」（その１）（その２）で本場で学ぶことをお勧めしていますが、「意識」の先端研究の本場の一つはUniversity of ArizonaのCenter for  Consciousness　Studiesでしょう。現代言語学の祖ともいえるNoam Chomskyも、University of Arizonaに籍を置いているようです。

---

[*1] ChatGPTは確かに素晴らしい小説や詩を書くかもしれませんが、それは、意識をもつヒトが読むからではないでしょうか。また、素晴らしい科学論文をかくかもしれません。しかしそれはイージー・プロブレムに類する客観的論文ということでしょう。チャルマーズが問うハード・プロブレム「どうして自分が意識することを意識するのか」に挑戦する論文ではなさそうです。

[*2]たとえば、法助動詞willには単純未来（”You will enjoy the movie.")と意志未来（volitional future "She will do it  if you will.")の用法があります。後者の”if you will”のwillは意思未来だから文法的とされますが、"＊The attraction will be cancelled if it will rain."は＊非文です。単純未来、即ち、無意志未来の場合は現在形"if it rains"にしなければなりません。すなわち意志があるかどうかです。意志は話者の意識に大いに関係します。

[*3] "Leave your raincoat in the bathtub because it' s wet." ここで”it"は”the bath tub”ではなく”your rain coat”です。即ち、濡れているのはyour raincoatでthe bathtubは乾いているかもしれません。常識という集団的意識のなせる業です。常識を「意識」しながらこの文がやりとりされているのが分かります。