大規模言語モデルからの伝言

LLMにかける言葉の違いで結果が変わる。どんな声がけがどんな効果をもたらすのかという探求が続いてきた。それはあたかも、新種の生物をツンツンしてみて反応を確かめ、性質を探っているかのようである。エンジニアリングというよりは、原始的なサイエンスだ。なぜそうなるのか。

コンピュータの動作一般がそうであるように、LLMの動作にしたってミクロ的な水準においては、その機序は決定的で明確に記述できるだろう。一方で、LLMは従来のアプリケーションよりも複雑な入出力が、別途カスタマイズすることなくできる。ただし、それ自体も機序を説明することはできよう。

機序が説明可能ならそれは他律的な機械に見えるわけではないのは、生物自体がそうだろう（＊）。前述の入出力の要求に自らをフィットさせる能力により、環境の複雑さに適応しているかのように見えることが、LLMをサイエンス的な対象としている。対応し得る複雑さが環境と即応すると、対象が自律的に見えるというわけだ。

環境に対して自律的にフィットできることは、生物的な存在であることの要件である。となると、そのフィットのしかたがいかなることであるのかを探求したいと思うのは当然。一方で、相手は工学的産物であるのもまた明白だから、その探求から何らかの有用性を引き出そうとする。そういう解り難さかある。

そんなことを書いていたら、以下のような言及をいただいた。

「水からの伝言」を思い出しもする

— m.$.t.k. (@mk_sekibang) November 4, 2023

これは本質的なツッコミである。一方で、では我々人間たちのコミュニケーションは水に「ありがとう」と声をかけるのと何が違うのだろうという自省をもたらす。ほんとうに違うのだろうか？もちろん違うのだけど、その違いは単純なことではなかろうと思う。大規模言語モデルからの伝言はまだまだ終わらない。

---

＊ もちろん、現状では生物の機序が全て明らかなわけではないが、明らかになったとしても他律的な機械のようなものだとは思わないだろうということである。端的には、人間の意識なりなんなりの仕組みが明らかになったからといって、人間は自律的な存在として認識され続けるだろうということである。また、ここでは生物は自律的であるという前提を置いて論述しているが、自律・他律の差は、生物・非生物に対応しているわけではない。社会システムにおいては、対象が人間であってもある面では自律的だし、別の面では他律的に見えると考える方が、説明がつきやすいこともある。詳しくは、たとえば『未来社会と「意味」の境界』所収「ネオ・サイバネティクスからの接近：生命システムによる意味創出と情報伝達というフィクション」などを読まれたい。