J・サール"The Chinese Room"「中国語の部屋」でStrong AIを否定...意識科学ハード・プロブレム ？イージー・プロブレム？(5)

「意識科学会イージー・プロブレム？ハード・プロブレム？」（１）（2)　(3）（4）に続く(5)です。今回はJ.　サールの"The Chinese Room"「中国語の部屋」を取り上げます。

ジョン・サールがStrong AI, Weak AIという語を使った

Strong AIとWeak AIの2語を最初に用いたのはジョン・サールJohn Searleです。今から約45年前に執筆した”Minds, Brains, and Programs”  (1980,  The Behavioral and Brain Sciences 3, pp. 417-457)と称する論文で、AIが人間的human-like、すなわち、Strong AIでありうるかどうかをテストする為、それまで使用されてたチューリング・テストTuring Testに代わるThe Chinese Room「中国語の部屋」と称する思考実験を提唱しました。

あくまで思考実験でありその有効性をめぐっては賛否両論の大議論（The Chinese Room Argument)を巻き起こしてきました。サールは今から11年前の2013年に収録された”Consciousness & the Brain: John Searle at TEDxCERN (youtube.com)”と題するTEDレクチャーで、それまでの議論を踏まえ、AIはヒトの「意識」と比較し「意識」を持ちえず人工artificialであることを改めて強調しています。（2)、　(3）、（4）で触れたように、生成AIによるChatGPTが市場に出回って以来、あたかもStrong AIが出現したかのように、イライザ効果The Elize effectまがいの過剰反応hypesが蔓延しています。もう一度冷静にAIテクノロジーを見つめ直すべく一考の価値ある思考実験です。

チューリング・テストに代わるThe Chinese Roomとは

The Chinese Room「中国語の部屋」について、Philosophy of Mind of John Searle を参考に概要をまとめます。AIはあくまでも人工知能であってヒトの知能ではないということを示す思考実験です。

「ある部屋の中に中国語をまったく知らない一人の人物（サール自身）がいます。そこには難易度が異なる中国語を印刷したカードを容れた箱、そして、複数の漢字のつながりから質問の応答として相応しいものをマッチさせるマニュアル一冊が置いてあります。部屋の一方には中国語話者が中国語の質問などを差し入れる穴が、もう一方には部屋の中の人物が答えを差し出す穴があります。中にいる人物はそのマニュアル、言い換えれば、コンピュータ・プログラムを駆使し、インプットとして差し入れられた漢字のつながりを別の漢字のつながりに変えてアウトプットとして差し出します。部屋の中サールの人物は優れたメッセージ処理者であり、彼の返答が中国語母語話者に完璧に意味あるものであるとしても、彼は操作した漢字とそのつながりをまったく理解していません。」

The Chinese Room (Wikkicommsより)

現実世界の理解は単なるシンボル操作ではない、よって、コンピュータはヒトの知能を模倣しさえするがそっくるそのまま表示できない、換言すれば、Strong AIにはなりえない、そんなものはありえないと結びます。

The Chinese Roomで言語意味論の重要性、「意図」「意識」の重要性を訴える

拙稿「ポツダム宣言は一連の「遂行文」、日米政府解釈の齟齬（後編）ー機械翻訳考（その６）」で触れましたが、サールは言語哲学者として、J.L.オースティンの言語行為論Speech Act Theory を継承しました。”Minds, Brains, and Programs”  (1980）を発表する1年前に、Expression and Meaning：Studies in the Theory of Speech Acts (1979, Cambridge University Press)を出版しています。

John Searleの著作と論文（AI専攻者必読書）

発話行為とは発話そのものが行為そのものとなるケースです。「約束する」、「命令する」、「感謝する」、「説得する」、「脅す」などなど私たちのコミュニケーション活動には発話行為が溢れています。

いじめっ子が「これからいじめないって約束する！」と親に発したらそれをもって「約束」という行為が成立します。この例では文字通り「約束する」という行為動詞があるので一目瞭然ですが、「もういい子になる！」と発しても「約束」が成立します。前者は直接発話行為direct speech act後者は間接発話行為indirect speech actと言われます。

発話行為は(1)発話内容locution、(2) 話者の意図、(3)聞き手へのインパクトperlocutionの3部構成です。「もういい子になるよ」という発話内容は、話者（子）が2度といじめないことを約束するという意図が含蓄され、聞き手（親）は話者（子）がそう約束したと理解します。すなわち、発話行為のやり取りには「意図性」intentionalityが隠され、重要なカギを握っています。心理的状況 mental statesが介入しているということです。もちろんすべての心理的状況が意図的intentionalではありません、痛み（It hurts)、懸念 (I'm worried)、抑うつ(I!m depressed)など、非意図的なものもあります。しかし、それらを含め全てが意識的consciousであるわけです。

言語だけでなく、ヒトのありとあらゆる行動、制度、習慣には意識が存在します。意識は生物学的作用であるので、生物ではない機械からは意識は生まれず、よって、AIはあくまでも人工知能でありヒトの知能の知能にはなりえないと結びます。詳しくは”Consciousness & the Brain: John Searle at TEDxCERN (youtube.com)”を見てください。

サール vs デネット

デネットはヒトの意識はチャルマーズの言うイージー・プロブレムの延長で、物質（脳）が環境に反応し派生する「多重文書」的現象であって、ハード・プロブレムなどは存在しないと主張しました。人工知能AIが進化するにつれヒトと同じ意識を持つロボットができるであろうとCog Projectに着手しました。Strong AIの実証実験です。その実現を待たずプロジェクトも終了してしまいましたが、生前のインタビューでは、AIの技術がそこまでに至らず未熟であるだけで、将来、AIがさらに進歩すれば、Strong AIは可能でありhumanoidロボットも出現すると述べていました。

サールは反対にヒトや生物の意識は生物学的基盤に依拠するものであり、AIがどんなに進歩しても生物にはなりえないのでヒトや生物の意識を持つことができず、Strong AIの実現は永遠に不可能と切り捨てます。

サールもデネットもデカルトの二元論を否定し「デカルトの劇場」などは存在しないとするとことにおいては共通しますが、サールは生物学的物質主義の見方、デネットは（新行動主義的）機械論的物質主義の見方を固辞していると思われます。

言語(哲）学において、サールは、統語偏重のformal analysisを否定します。"The Chinese Room"内の人物が行っている作業はまさにそれです。それに代わりに「意図」、「意識」を取り入れた意味分析semantic analysisの重要性を訴えます。英語も含め言語教育に関係するので次回(6)ではこの点に触れます。