拝啓 ChatGPT様。
あけましておめでとうございます。貴殿のお噂を耳にしたのが2022年の夏でしたでしょうか。あれから貴殿も大変ご活躍のご様子で、昨年の2023年は猫も杓子も貴殿のお名前で持ちきり。まさか貴殿が、IT業界のみならず、お茶の間のバラエティ番組のデビューまで果たすとは流石に想像しておりませんでした。
貴殿の繰り出す流暢で軽妙な会話力に、世界の多くの人々は感嘆と称賛の声を漏らしました。貴殿の登場をもって「人間の知性を超える」と息巻く知識人が未だに絶えません。「大規模言語モデル」という名に表される、想像を絶するデータ量も、貴殿に対する畏怖の念を抱く理由の一つかもしれませんね。
昨年、平塚市の青年会議所より「AIは人間の知性を超えるか？」というお題で講演を依頼されました。AIとはおそらく、貴殿のことを指しているのではないかと思われます。貴殿はこの問いに対してどうお考えでしょうか。いつものように、貴殿らしい謙虚さで「私には知性はありません」とか「お答えできません」などと慎ましくお応えになられるのでしょうか。
私にはなんだか、そもそもこのお題には「人間の」知性が万物あらゆる生物の知性よりも優れている、という含意があるように感じられてなりませんでした。チンパンジーやイワシ、タコやイカの知性は、そんなに下等なのでしょうか？
そもそも「知性」とはいったい何でしょう？Google先生に聞いてみたところ、賢そうな論文が出てきました。
うーん、賢い学者の先生が言うからきっとそうなのかもしれませんが、私には今ひとつピンときませんね。
「日々の行動に根差した」というところ、つまり処世術ということなんでしょうか。ここはなんとなくわかります。チンパンジーだってイワシだってタコだって、日々の行動に根差して、なんとか生きているでしょうから。
でも「個人として知的に行動し、内省的で、参加的なもの」というあたり、何で「個人として知的に行動」しなきゃ「知性」とは認められないんでしょう？いかにもケンブリッジ的、ヨーロッパ的な、個人・個の独立単体で考える思想が根底にありそうで違和感があります。
イワシ頭って言いますね。「てめえの脳みそはイワシ頭か！」なんてね。ウン万ものイワシの群れがサメに襲われている映像、貴殿は見たことがありますか？海中の三次元空間での、複雑で、しかし美しい「トルネード」な動き、これを駆動しているのは「群知能」というそうです。でも、このエリザベス・チャーチル先生はあくまでも「個」に知性をみるのだから、その観点ならイワシ頭は人間の頭より下等なんでしょうね。
でも、個体として賢いことって、そんなに重要なんでしょうか？
私のような一般人に言わせれば、知性というのは「末代まで生きるための賢い知恵」といった程度のことだと思います。イワシだって、自分たちの子孫が繁栄するために、目の前にいるサメにどう対処したらいいか、瞬間瞬間に判断して、その結果、群れとして、あのような美しいトルネードを踊っている。
その時のイワシに最も重要なのは、自らの脳や情報処理力よりも、「世界とどう呼応するか」です。上下左右のイワシの様子や位置関係を知ることだけでなく、海の海流や水圧、迫るサメに遮られる日光と影、喰われた仲間の痛み、血。刻一刻と変化する外界の変化を、五感感覚総動員で全身に感じ、リアルタイムに呼応する。これにより、種の全滅を避け、次に繋げていく。
イワシの場合、知性はむしろ個体の脳よりも、群が状況に連動・呼応するダイナミズムにあるように思います。
タコは、脳が足に宿るそうです。著書「タコの心身問題」には「皮膚のつぶやき」なんて面白いことが書いてあります。アメリカアオリイカは皮膚のピクセル的細胞を使って３０種類もの儀式的ディスプレイ表示ができ、そのパターン、順番にも意味があるらしい。人間の言語よりもはるかに複雑な言語を持っているかもしれないというのは驚きです。
タコの腕は脳で集中的に制御されているわけではなく、腕にも自らの動きを制御する能力がある（中略）つまりタコは制御機能の一部を腕に移譲するというかたちで、複雑な行動を進化させてきた
こうやって考えると、人間のように、脳という中枢系がすべてを監督する知性もあれば、イワシのように中枢を持たない群れの知性、タコのように脳はあるけど脚がある程度自治権を持って判断する合衆国的な知性、知性といっても色々とあるようです。そのすべてに共通するのは、個単位と群、環境や世界との「呼応」です。
その「呼応」を無視してしまうとイワシは喰われ、タコは擬態に失敗し、人間は環境破壊で自らの生活圏を狭めてしまう。
よって、世界と呼応しないスタンドアロンの情報処理、独立した単位の「入力」を要求する時点で、それは前述のエリザベスチャーチル氏も言う通り、「知性」ではなく、知性のように見える「計算」です。
そもそも、インプットやアウトプット、データベースや情報処理という、コンピュータのメタファで知性を再現しようとしている時点で、色々な無理が来ているように感じます。たとえば、森田真生著「計算する生命」には、お掃除ロボットのルンバの生みの親であるロドニー・ブルックス氏の講演エピソードが語られています。
現代の人工知能や人工生命の研究者は、「計算」という概念を頼りに、コンピュータのメタファで、知能や生命の謎に迫ろうとしている。だが、本当にこれが正しいメタファなのだろうか
だから、たとえその情報処理という「計算」が、なんらかのセンサーを通じて世界を知覚・反応し、エリザベスチャーチル氏の言う「日々の行動に根差した」としても、それはやはり、依然として「知性」ではないような気がします。そもそもコンピュータのメタファそのものが、知性の理解として間違っている気がするからです。
情報処理するマシンの「日々の行動」に、イワシたちやタコたちのような「末代まで生きる」潜在的渇望もなく、命題に対する論理的でもっともらしい反応を返すだけ（今流行りの「論破」ですかね）なら、それは知性と呼ぶにも烏滸がましい、イワシ頭にも劣るように思いますが、貴殿はいかがお考えになりますか？
先ほど私は、あらゆる知性に共通するのは「世界との呼応」と述べました。脳と末梢、個体と群れ、群れと環境、環境と世界が呼応して、その呼応の中で生命は維持され、それぞれの集合がそれぞれの時間単位の中で継承を目指していくものだと思います。そして、その「呼応」を可能にしている、とても重要な「掟」があります。なんだと思いますか？
それは「信頼」です。信頼がゆらぐと、この呼応は拠り所を失い、個同士が分離分散していく。個と群とを繋げている見えない媒介間、不確かな境目の間に、どう信頼を作るかが、最も難しく、危ういものだと思います。そのただでさえ危うい「信頼」を拠り所にする個と群との呼応関係にあって、「嘘」は非常に危険なウィルスになります。
もしある一人の嘘ツキが、息を吐くように、真実に嘘を忍ばせる性癖があって、さらに悪いことに、その嘘がバレるたび、それを会社のせいにする、謝ればすむと思っているとしたら？そして、その嘘ツキが、世界中のあちこちにものすごい数いて、日常生活のあちこちで真実の中に巧妙に嘘を紛れさせているとしたら？貴殿ならその相手とどう向き合いますか？
もともと、人間は嘘をつくが、計算機は嘘をつかない、そこに計算機の存在意義＝信頼がありました。それがある日覆ったらどうでしょう。まさか貴殿は「ハルシネーション」などというもっともらしい専門用語で自らの嘘を弁明したりしませんよね？
スタートレックにおけるミスタースポック。冷徹ですが、確かな情報から合理的な答えを、高いIQで回答します。しかし、その彼がある日突然、日常的に高度な嘘をつく人になってしまったならどうでしょう？バカが嘘をつくのと違い、頭のキレる存在が嘘をつくことの怖さが、ここにあります。
計算機も信じられない、人間も信じられない。ならば、どうするか？同族・宗教・人種や出身といった原始的な信頼に逆戻りでしょうか。そうして、昨今の民族主義的な分断と対立が益々加速してしまう、なんて悲劇は、私だけの杞憂でしょうか？
テクノロジーの進歩によって、誰もが信頼できる情報を共有でき、遠くにいる、会ったこともない誰かをも信頼できるはずだった社会が、不信と懐疑・疑心暗鬼の原始社会に戻ってしまうとすれば、それはなんとも皮肉な話です。
さて、貴殿はきっと、そうしたディストピアは妄想であり「人間はマシンと共存しながらお互いを高め合う」とか「AIで社会はより豊かになる」とか、「AIが奪う仕事は新しい仕事の創出で埋まる」とか「人間はもっと創造的なことに時間を費やせるようになる」とか、そういった楽観的なご意見をそれらしく主張されるだろうと予想します。
しかし、マシンの嘘が横行する社会では、人間がマシンの嘘を見極め、修正する仕事に忙殺され、マシンのバグチェッカーとして、人間がマシンに（結果として）こき使われ、マシンの奴隷にされるという、哀れな未来もあながち絵空事にも思えなくなるのですが、これもまた私の杞憂でしょうか。
貴殿の評判をはじめて耳にしたあの夏から約１年半。さらに嘘のつき方に磨きがかけられ、間違えを指摘された時の謝り方やいなし方にも一段と手慣れてこられた貴殿が、今年はどのような形で私たち人間社会に、世界に、有用な進化を遂げられるか。言葉の自動生成を司る一IT業者として、引き続き見守らせていただこうと存じます。
本年も引き続き、どうぞよろしくお願いいたします。
敬具