意識科学イージー・プロブレム？ ハード・プロブレム？(その２）... OpenAI/ ChatGPTはどっちに挑戦？

「意識科学会イージー・プロブレム？ ハード・プロブレム？OpenAI/ChatGPTはどっちに挑戦？」（その１）の続きです。

言語・コミュニケーション論における意識

現在言語学の研究では言語の音声・音韻、形態、統語、意味の構造とその機能について格段の進歩を遂げています。しかしコミュニケーションという要素を加えると途端に意識とか意志や意図などの問題が生じてきます。ゆえにコミュニケーションから切り離し言語内intralinguistic分析に徹し言語外extralinguistic分析を極力排除してきました。客観的言語分析の伝統が20世紀言語学の主流を占めました。

おかしな話です。言語はコミュニケーションの重要な表現様態です。E・デュルケームDurkheimの言う社会的事実（social fact)であり、それは個人の意識が蓄積され抽象化された集合的意識(collective consciousness)の結晶です。個人の意識を拘束する規範的意識としての側面を持ちます。言語研究は大いに意識に関わるべきところ、それを欠いた客観的、物理的言語構造と機能の研究に特化してきたことになります。チャルマーズの言うイージー・プロブレムに専念してきたということでしょう。

Google AIの目標に掲げた”to create new experiences"の経験とは

OpenAIに加えてGoogle AIも参入し次の目標を掲げています。

Generative AI can not only create new text, but also images, videos, or audio. Explore how teams at Google are implementing generative AI to create new experiences.　 （Discover Generative AI Overview Google AI）

と、新たなテキストのみか、静止画、動画、オーディオを創造し、新たな体験（new experiences）創造することを目指すとのことです。ここでいうnew experiencesとはチャルマーズのいう意識的経験なのでしょうか。AIは人間と同じように意識を持ち意識的経験をするということでしょうか？巷間、ChatGPTが小説、詩、科学論文を書いているとの囁きが聞こえてきますが、AIはどの程度人間にとって代わるのでしょうか？[*1]

現在のところ、人工知能はある面でヒトの知能をはるかに超えるかもしれませんが、意識は持ちえません。ヒトには知能とともに意識があります。ヒトの言語処理におけるメッセージの生成発信と受信理解のプロセスには「意識」が伴うのです。言語の字義を超えた含意を生成・理解できます。ヒトの言語活動には哲学用語でいうqualia「クオリア感覚質」が伴います。チャルマーズのハード・プロブレムは、イージー・プロブレムが究明する物理的客観的な構造・機能メカニズムから何故qualiaが生じるのか？と言い換えことができます。

ヒトの言語理解にみる意識のqualia「感覚質」とAIの限界

別稿「Google Translate (GT)の新バージョンGoogle Neural Machine Translation (GNMT)について（後編）ー機械翻訳考（その２）」で、翻訳という作業には、まず、原文の理解（understanding）が必要です。高質の翻訳は高質の原文理解が前提になります。「高質」とは「qualiaを伴う」に言い換えることができます。

自然言語処理と哲学専攻のJohn Haugelandは、1990年の “The Prospects for Artificial Intelligence”と称する論文にて、AIの自然言語 （natural language） 処理は言語的要素に焦点を当てるが、ヒトの言語のやり取りにはそ超言語的要素があると指摘しています。この論文を発表した4年後にチャルマーズ論文が出ることになりますが、チャルマーズの論点をサポートする良例と思えるので紹介します。

Haugelandは、W.V.O. Quine のホリズム/全体論（holism）に倣い、ヒトの言語理解understanding languageには、（1）～（4）のホリズム（holisms）が総合的に作用すると述べます。

（1） 意図ホリズム（the holism of intentional interpretation ）[*2]
（2） 常識ホリズム（the common-sense holism）[*3]
（3） 状況ホリズム（the situational holism）
（4） 存在ホリズム（the existential holism）

いずれもqualiaに直結しますが、ここでは(3)と(4)を取り上げます。それぞれイソップ物語などの逸話の理解に関しヒトとAIの違いを指摘しています。

ヒトがイソップ物語を理解する時、物語の世界と現実世界を行ったり来たりして調和させる

（3）状況ホリズムの例です。

「コージャが井戸の中を覗き込むと水面にお月様が映っていました。いけない！お月様があんなところに！すぐさまロープの先っぽに鍵を付け井戸に投げ入れます。すると鍵が何かに引っ掛かかったので力の限り引っ張ります。ところが鍵が外れてしまいもんどりかえって仰向けに倒れてしまいました。そのまま見上げた空にはお月様が光り輝いていました。良かった！お月様を無事お空に戻せた！コージャは大喜びです。」

この話の聞き手は、コージャの世界の（物語的）「状況」と現実世界の「状況」を行ったり来たりしながら比較し理解します。現実はそうでは無いが、コージャは井戸に月が落っこちたと思ったのだな、自らが井戸から月を引っ張り上げたと思ったのだな、という具合です。おとぎ話に留まらずどんな話にも当てはまる現象です。話を聞く際、誰しも話の中の状況と自身の状況とを頭の中で交錯させながら理解しようとします。相手の立場になって話を聞いて理解すると言いますが、相手の状況をそのまま鵜吞みにするのではなく、自分の状況に照らし合わせようとするといった、言語構造を超えたqualiaのような作用があることは確かです。

ヒトは人生体験から物語から言語を超えたメッセージを抽出する

（4）存在ホリズムの例です。

「ある農場主の息子が農場で誤って毒蛇の尻尾を踏み、噛まれて致命傷を負いました。怒った農場主が斧で蛇の尻尾を切り落とすと、蛇は次々に牛を噛んで死なせてしまいます。弱りはてた農場主は土産物を携えて蛇に申し出ます。お前は尻尾を失い、俺は息子と牛が死んだ、これでおあいこだから仲直しよう！蛇は即座に言い返します。そんな物は受け取れない、帰ってくれ！俺もお前も大切なものを失ったんだ、もう元には戻らないんだよ！」

現在ガザ、ウクライナをはじめ世界で起きている紛争の多くはこのおとぎ話に集約されます。私たちはこのような話を聞き、これまで積み上げてきた人生体験から、何か割り切れない、筆舌しがたい人の世の悲哀を感じ取ります。これもqualiaを伴う理解ということでしょうか。

ここで、（2）、（3）、（4）の3 つのホリズム（holisms）は、前もって想定し得る事前ホリズム（prior holism）ではないことに注意すべきです。その時その場でライルタイムに作用するリアルタイム・ホリズム（real-time holisms）です。AIは大量な言語データを瞬時に解析できる点でヒトの能力をはるかに超えています。何倍も否何十万倍も優れています。しかしそれは前もって集めたデータ（prior data)の解析、言い換えれば、事前ホリズム（prior holism）に基づいた解析にすぎません。リアルタイム・ホリズム（real-time holisms）に対応する処理能力は持ちえないと言い切っています。

ヒトの主観的情緒・感情emotionは無限、すなわち意識は無限でリアルタイム、果たしてAIがこの領域まで侵略できるのでしょうか。それともチャルマーズの言うようにヒトを含め他の生物に備わった意識は先天的異次元のものなのでしょうか。いずれにせよ当面ヒトは意識があることを武器にしながらAIに対抗するしかありません。イージー・プロブレムか？ハード・プロブレムか？その議論はさておき、意識が創生するqualiaで勝負できる場を求めることになりそうです。皆さんはどう思いますか？

最後に、別稿「目指す学問の"本場"か？現地で認可されている正規のプログラムか？正規の学位か？...留学チェックポイント－」（その１）（その２）で本場で学ぶことをお勧めしていますが、「意識」の先端研究の本場の一つはUniversity of ArizonaのCenter for  Consciousness　Studiesでしょう。現代言語学の祖ともいえるNoam Chomskyも、University of Arizonaに籍を置いているようです。

---

[*1] ChatGPTは確かに素晴らしい小説や詩を書くかもしれませんが、それは、意識をもつヒトが読むからではないでしょうか。また、素晴らしい科学論文をかくかもしれません。しかしそれはイージー・プロブレムに類する客観的論文ということでしょう。チャルマーズが問うハード・プロブレム「どうして自分が意識することを意識するのか」に挑戦する論文ではなさそうです。

[*2]たとえば、法助動詞willには単純未来（”You will enjoy the movie.")と意志未来（volitional future "She will do it  if you will.")の用法があります。後者の”if you will”のwillは意思未来だから文法的とされますが、"＊The attraction will be cancelled if it will rain."は＊非文です。単純未来、即ち、無意志未来の場合は現在形"if it rains"にしなければなりません。すなわち意志があるかどうかです。意志は話者の意識に大いに関係します。

[*3] "Leave your raincoat in the bathtub because it' s wet." ここで”it"は”the bath tub”ではなく”your rain coat”です。即ち、濡れているのはyour raincoatでthe bathtubは乾いているかもしれません。常識という集団的意識のなせる業です。常識を「意識」しながらこの文がやりとりされているのが分かります。