「記号接地問題」を考える
ChatGPTと書く小説／『FBI潜入捜査官Sayaka 』を先に進めようとして、ハタと詰まりました。質問の仕方を色々と変え、Chat君に再生成を繰り返してもらっても、私の日常から遠い話は、どうも分かりづらいのです。
う～んと唸っているうちに、「日常から遠い話は頭に入らない」状況は、生成AI界隈で話題の「記号接地問題」と関係があるのではないかと、ふと、そんな気がしてきて、こうして筆を執って（キーボードを叩いて）いる次第です。
１．「記号接地問題」とは
「記号接地問題」についての私なりの解釈と、その解釈を導き出すために比較参照した、「記号接地問題」に関する4種類の説明から始めたいと思います。
１－１．私なりの解釈
「記号接地問題」を、私は次のように解釈しています。
Xという物、あるいはYという出来事について、Xそのものに触れた
ことなしに、あるいはYという出来事を体験したことなしに、記号の
世界だけで説明できてしまうこと
この解釈は、「記号接地問題」について、後出の１－２、１－３、１－４、１ー５の４つの説明を比較参照した上で、
※４つに共通して取りあげられている内容で（1点だけ例外あり）、
かつ、
※私がよく分かったと感じた内容
を、私の言葉で整理したものです。
当然、様々な異論があると思います。参照した4つの説明のいずれもが触れていない論点や、触れているのに楠瀬が無視した論点があると考えますので、オリジナルの説明をご覧いただけるよう、以下に参照した説明のすべてについてリンクを貼ります。
大見出し２、３の内容の方に関心のある方は、この１－２、１－３、１ー４、１－５はひとまずスキップしていいただいてもよいと考えています。
１－２．今井むつみ 慶応義塾大学教授の説明
今回参照したのは、慶応義塾大学環境情報学部の 今井 むつみ 教授が『日経ビジネス（電子版）』2023年6月29日付のなかで説明している内容です。これは有料記事で、私は無料部分までしか読めていませんが、その中で、以下に抜粋した部分が非常に分かりやすいと思いました。
AIは、意味を理解しない記号を別の、やはり意味を理解しない記号で置き換えているだけ。つまり、AIのなかでは、単語一つ一つが、経験や感覚に対応づけられていない――身体感覚に「接地していない」――状態にある。つまり、本当は単語一つ一つの「意味」を理解していない。にもかかわらず、あたかも理解しているようにふるまっている。
１－３. コトバンクの説明
比較的短い説明なので、そのまま引用します。太字にしたのは楠瀬です。
人工知能において、実世界にある事物の名称と、コンピューター内部で扱う記号との結びつけに伴う問題。シンボルグラウンディング問題。
[補説]人間は、「リンゴ」という文字列と実物のリンゴとの結びつき、さらに、切って皿に盛りつけたリンゴや、リンゴの菓子、リンゴジュースなどとの関係も理解できる。しかし、コンピューター内部の記号処理では、「リンゴ」と「apple」という文字列は容易に結びつけられるが、実物のリンゴと結びつけることは困難である。つまり、コンピューター内部で扱う記号に本質的な意味を与えることができるのか、記号と事物をどのように結びつけるのかという問題といえる
１－４．Bardの説明
楠瀬からの問いかけ：
記号接地問題について、具体例をまじえて説明してください。
Bardの回答（読みやすさのために、太字化は楠瀬です）：
記号接地問題とは、人工知能において、記号が実世界にある事物や概念とどのように結びつけられるかという問題です。記号とは、言語やプログラミング言語で用いられる文字や記号のことです。例えば、「猫」という記号は、実世界にある「猫」という動物を指します。
記号接地問題は、人工知能研究において重要な問題です。記号接地問題が解決されなければ、人工知能は実世界の情報や概念を理解することができず、人間と同等の知能を実現することはできません。
記号接地問題の具体例としては、以下のような例が挙げられます。
人間が「猫」という記号を理解できるのは、実世界で猫を見たり触ったりして、その特徴や性質を経験しているからです。しかし、人工知能が「猫」という記号を理解するためには、実世界で猫と関わり、その特徴や性質を学習する必要があります。
人工知能が「愛」という記号を理解するのは、人間が愛を経験しているからです。しかし、人工知能が「愛」という記号を理解するためには、人間が愛を経験するような状況を作り出し、人工知能に愛を学習させる必要があります。
記号接地問題を解決するためには、人工知能が実世界の情報や概念を直接経験できるようにする必要があります。そのためには、人工知能に身体をもたせ、実世界で行動できるようにすることが考えられます。また、人工知能が人間の経験を模倣できるようにする方法も考えられます。
記号接地問題は、人工知能研究における重要な課題であり、その解決に向けてさまざまな研究が行われています。
以下に、記号接地問題を解決するための研究の例をいくつか挙げます。
身体的ロボットによる記号接地
身体的ロボットとは、人間と同じように動くことができるロボットです。身体的ロボットに記号を学習させることで、記号と実世界の事物や概念を直接結びつけることができます。
メタメタ認知による記号接地
メタメタ認知とは、自分の認知システムを理解する能力です。メタメタ認知を人工知能にもたせることで、人工知能は自分の記号をどのように解釈しているのかを理解し、記号と実世界の事物や概念を結びつけることができます。
人工知能の社会化による記号接地
人工知能を人間の社会に触れさせることで、人工知能は人間の文化や価値観を学習し、記号と実世界の事物や概念を結びつけることができます。
記号接地問題は、人工知能研究において依然として未解決の問題ですが、さまざまな研究が行われており、将来的には解決される可能性が期待されています。
１－５．ChatGPTの説明
楠瀬からの問いかけ：
記号接地問題について、具体例をまじえて説明してください。
ChatGPTの回答（太字化は楠瀬です）：
記号接地問題（Symbol Grounding Problem）は、記号がどのようにして意味を持つのか、また記号が物理的な世界とどのように結びついているのかという問題です。以下に、具体的な例を用いて説明します。
例1: 自然言語における記号接地問題
考えてみてください。英語の言葉 "apple" はりんごを指す言葉ですが、この単語が具体的なりんごをどのように指し示すのでしょうか？問題は、どのようにして言葉そのものが実際の物体や概念と関連付けられ、意味を持つようになるのかです。言葉 "apple" が単なる音の組み合わせであれば、意味を持たないままです。しかし、私たちは "apple" という単語を見たり聞いたりすると、りんごを想像し、りんごに関する情報を引き起こします。この「単語と物体の関連づけ」のプロセスが記号接地問題の一例です。
例2: コンピュータプログラミングにおける記号接地問題
コンピュータプログラミングでは、変数や関数、オブジェクトなどの記号が使われます。たとえば、プログラムで変数 "x" が宣言された場合、この変数が具体的な数値やデータとどのように関連付けられ、計算に使われるのでしょうか？プログラムが "x = 5" という文を実行すると、"x" という記号は数値5と関連づけられ、計算に使用されます。このプロセスが記号接地問題の一例です。
例3: 人間の思考における記号接地問題
人間の思考プロセスにおいても、概念やアイディアがどのようにして物理的な経験や感覚と結びつけられ、意味を持つようになるかが問題です。たとえば、子供が数字を学ぶ際、数字の "2" が2つの物体や事象とどのように関連づけられ、理解されるのでしょうか？このプロセスが記号接地問題の一例です。
記号接地問題は、言語、コンピュータ科学、認知科学などのさまざまな分野で研究されています。これらの例からわかるように、記号が意味を持つためには、何らかの方法で物理的な対象や概念と関連づけられる必要があり、このプロセスの理解とモデル化が重要です。
２．人間の「記号接地問題」
私は４つの説明に共通して登場する内容をベースに自分なりの解釈を引き出したと申し上げましたが、1点のみ、ChatGPTだけが指摘していることがらを織り込んでいます。それは、「例３：人間の思考における記号接地問題」 です。私は、人間の思考も「記号接地問題」をはらんでいると考えるからです。
みなさんの日常を振り返って、次の２点を自問してみてください。
【自分への質問➀】
私が日常会話で話題にする物のうち、本当に触れたり使ったりしたこと
があるものは、どれだろう？
【自分への質問２】
私が日常会話で話題にする出来事のうち、本当に体験したことがある
出来事は、どれだろう？
こうして自問してみると、実際に触れたり使ったりしたことのある物の少なさに驚くはずです。もっと驚くのは、私たちが口にする話題のうち、実体験を伴うものの、余りの少なさです。
たとえば、あるタレントが麻薬所持で逮捕されたとします。本人が麻薬を常習していた可能性も極めて高い。そういう時、私たちは「やっぱり、麻薬は恐いね。人生を棒に振るね」と話したりします。
ところが、そう話している私たちの中で、麻薬に実際に触れたことのある人間は、まずいないはずですし、まして、摂取した体験のある人間は皆無のはずです。
それでも、麻薬とその害について語ることができる――語れてしまう――のは、私たちが、次のア）～ウ）のいずれか、または、複数を経験しているからです。
ア）実際に麻薬への依存で苦しんだ個人の談話を聞いたことがある。
（TV、ラジオでの談話を含めて）
イ）実際に麻薬への依存で苦しんた個人の体験記または、そのような人を
扱った書籍や新聞・雑誌の記事を読んだことがある。
ウ）特定の個人には触れずに一般論として麻薬の危険性を説明した談話、
書籍、記事などを聞いた、または、読んだことがある。
➀～③に内容は、すべて伝聞情報です。そして、その形式はテキスト（発話または文章）です。
ここから何がわかるかというと、私たち人間が考える内容も、必ずしも全てが「記号接地」しているわけではないということです。単純に、直接経験したことがあるかどうかで「記号接地しているか・していないか」を判断したら、むしろ、「記号接地していない」考えの方がはるかに多いはずです。
では、私たちは、なぜ、実際には「記号接地」していない考えを自信をもって語れるのでしょう？ それは、私たちに類推する能力・想像する能力、そして、類推した内容と想像した内容に基づいて疑似体験する能力という、３つの能力が備わっているからだと考えます。
私たちは、テキストが語る物や出来事について、自分の現実の経験と関連づけて類推することができます。あるいは、関連づけられる経験がない場合でも、こういう感じではないだろうかと想像することができます。
そして、類推と想像に基づいて、「まるで、その物に触れたり使ったりしたことがあるような」感覚、「まるで、その出来事を自ら体験したことがあるような」感覚を、持つことができる。このような感覚のあり方を、ここでは、疑似体験と呼ぶことにします。
私は、この疑似体験と「分かる」ことが結びついていると考えています。私たちが、ある物や出来事について「分かる」というのは、その物や出来事を疑似体験できることです。
そして、疑似体験を実際の体験であるかのように感じる程度によって、「すごくよく分かる」・「分かる」・「分かる気がする」というようにレベル分けしていると思います。
私は、人間は、言語を用いるようになった時から、完全には「記号接地」しなくなったのだと考えています。言語は現実界に実在する物と出来事に名前をつけ象徴化（シンボル化）したもの、つまり概念です。
実在する物と出来事の代わりに概念を操作することで、現実に物を持ってきたり動かしたり、あるいは出来事を起こしたりしなくても、頭の中で様々な状況を思い描き、試行錯誤することできるようになった。このことが、人類が今日の文化と文明を築くことを可能にしたのだと、私は考えています。
一方で、現実世界を離れて概念を操作するようになった、その瞬間から、私たちの思考は現実と接地しなくなったのです。
３．人間の「記号接地問題」とAIの「記号接地問題」の決定的な違い
「記号接地問題」は、AIだけの問題ではなく人間にも存在する問題です。しかし、人間における「記号接地問題」とAIにおける「記号接地問題」には、決定的な違いがあります。それは、次の2点です。
《違いA》人間が「分かる」根底には自らの直接体験と体感がある。
《違いB》人間は、分からなかったら分からないと言う。あるいは、
分かったふりをしても、分かっていないことが露呈する
まず、《違いA》から見ていきます。私たちが類推できるのは、あくまでも、私たちが直接に体験したことの延長上にある物や出来事です。類推によって疑似体験し、その疑似体験の延長上で別の物や出来事を類推する……という形で類推を重ねていくこともあります。しかし、類推をその原点にさかのぼっていくと、必ず私たちの直接体験にたどり着きます。
私たちの想像は、ほとんどの場合、体感と結びついています。「このスリラーは凄い。読んでいて、ハラハラドキドキする」と言う時には、実際に私たちの心拍数が上がり、アドレナリンが大量の放出されています。「想像しただけで吐き気がする」、「想像しただけで胸が痛む」と言う時、私たちはそれに見合った身体反応をしているのです。
類推と想像は疑似体験の基盤です。この二つを直接体験と体感にまでさかのぼることができるということは、疑似体験も、必ず直接体験と体感にさかのぼることができることを意味します。
直接体験と体感は、現実への接地に他なりません。つまり、人間も、疑似体験の中で現実体験を離れる――接地を失う――ことがあるけれども、その原点では、必ず接地しているのです。
根っこのところでは現実に接地しているから、触れたことのない物、使ったことのない物、経験したことのない出来事についても、自信をもって語ることができる（できてしまう）のです。
これに対して、AIには、私たち人間の直接体験または体感にあたるものはありません。あるのは、あくまでもテキストの無限の連鎖、あるいはテキストの無限の入れ子構造だけです。この点を、前出の今井教授は、面白い例えで説明しています。
ハルナッド氏は、ことばを、身体感覚や経験と結びつけずに与えられた定義だけで操ろうとしているAIを、記号から記号へ漂流し、一度も地面に降りることができずに回り続けなければならないメリーゴーラウンドのようだ、と述べています。
このことは、少なくとも現時点で存在するAIについては、その本質的な性格なので、学習の量をどれだけ増やし、学習の質をどれだけ高めても、変わらないと思います。
このことから生じるのが《違いB》です。人間は、直接経験と体感からかけ離れていて類推や想像ができない物と出来事――つまり疑似体験できない物と出来事――については、「分からない」のです。
実は、これが、私が ChatGPTと書く小説／『FBI潜入捜査官Sayaka 』を先に進めようとして行き詰った原因でした。実際に、どのように行き詰ったのかは、『FBI潜入捜査官Sayaka』の次回投稿（第5回）で説明しますので、ここでは割愛します。
人間は、分かっていないにもかかわらず分かった振りをすることもあります。しかし、本当に分っている人と会話を重ねていると、段々しどろもどろになって、分かっていないことが露呈する結果になります。それは、「分かっていない」から筋の通った語り方できなくなるのです。
だから、議論の相手として意外に手ごわいのは、完全な思い違いをしているのに、本人は自分が正しい（正しく分かっている）と思い込んでいる人だったりします。
一方、AIには、元々、直接体験と体感の根っこがないわけですから、自分が分かっていないことに気づく方法がないのです。
私は、これまでにChatGPTを使っていて、「あれ、質問に対してピントのずれた答えを自信たっぷりに返してくるぞ」と感じたことがあります。
しかし、よく考えてみると、それは、私がChatGPTに人間を重ねて見てしまっていたからです。分かっていない人間の説明がしどろもどろになるのに対して、ChatGPTはペースを崩すことなく、次々と答えを返してくるから、私が「自信たっぷり」と感じてしまうだけで、ChatGPTは、別に自信があるわけではないし、まして傲慢なわけでもなく、ただ、設計原理どおりに機能しているだけなのです。
これは、別の記事でも触れましたが、AIも道具であり、道具である以上、その設計原理からくる限界がついてまわります。どのような原理で設計されていて、したがって、どのような限界があるのかということを十分に理解して使っていくことが、大切だと考えます。
「記号接地問題」はAIにとってだけでなく、人間にとっても非常に重要なテーマだと考えますので、これからも思索を深め、投稿もしていきたいと思っています。
今回は、ひとまずここで筆をおくこととします。
ここまでお付き合いいただき、ありがとうございました。
この記事が気に入ったらサポートをしてみませんか？