唐揚げAI、メンチカツを買う

午前1時、唐揚げ大好きAI

午前1時、ラジオで呂布カルマがAIについて話していた。
「AIに仕事奪われるってよく言うけど、AIも膨大なデータからパターンを生み出しているだけ」「経験とそれを選ぶパターン、それだけをもって自我と言えるのか」「意思みたいなものと、選択パターンの間にいろんなものがある」「例えば、唐揚げが一番美味いのは知ってるけど、今日はメンチカツいっとこうか、みたいなことをAIはできないのでは？一定確率で違うほう行くみたいなのは組み込めても、それって意思決定じゃないじゃん」みたいなことを呂布カルマの相方が話していた。それに対し呂布さんは「そういう気まぐれみたいなのも自覚してないだけでパターンなんじゃないの？」という返しをしていて、この人頭良いな、と普通に感心してしまった。
ちなみに、この番組をちゃんと聴いていることをアピるメールを送るとノベルティの半ヘル（原付のヘルメット）をくれるらしい。正気か？[1]

自由意志とUFO

「自由意志」という言葉を発するのは怖い。自由とか意志とか、我々の業界ではとてもセンシティブな話題になるので、政治や野球チームの話と同じような扱いを受けている。もちろん、真に互いの心を通わせるためには支持政党や贔屓チームの話をすべきという意見があるのは分かる。分かるが、同時に「互いの”自由意志”によって選び取った主義主張/趣味趣向を否定すべきでない」という基本原則に沿う限り、結局のところ互いの意見の気に入らない部分を真っ向から否定するわけにも行かず、最終的に腫れ物を触り合うような微妙に距離のあるコミュニケーションに帰結してしまうのではないだろうか。なんかこの言い方もセンシティブだな。

とまれ、自由意志がなぜ神経科学の業界でセンシティブワードに指定されているのかについて説明が必要だろう。
遠回しに言うならば自由意志はUFOみたいなものだからである。実在に諸説あり、定義が不安定で、その語を発する人によって想定しているものが異なる。したがってその実在を巡る議論が紛糾しやすく、また定義についての合意に至る道も険しい。UFOが米空軍の符号的な意味における「未確認飛行物体」だと思っている人とオカルト的な光る円盤的なものだと思っている人が混在している中では、実在肯定派/否定派問わず議論が成り立たないのである。

この暗喩を自由意志に充てがうとどうなるかについては、それこそ言及するのに勇気が要る話になるが、両眼視野闘争だったり準備電位だったりのことを引き合いに出して自由意志を議論しようとする人や、もっとソフトな(i.e. 哲学的な)意味で実在を議論しようとする人などがおり、ちょっと話題に挙げただけで結構大変なことになりやすい。
僕個人としては、スパイクの揺らぎの多数決のことを”自由”意志と呼ぶのってなんか気持ち悪い、そこに主格って必要ですか、という感想があり、あまり積極的にこのワードに乗りたくないと思っている。注意の対象を切り替えてるのは何らかの主体じゃないの、というよくある指摘に対しても、常に入力の影響下にあるんだから結局その都度多数決の結果によってスイッチしてるんじゃないかなと思う。

そうなってくるとじゃあ私達に自由意志なんか無いってことですか、となるわけだけど、僕からの返答は「ほらそうなるじゃん」だ。だからこの話はあんまりしたくない。それはもっとソフトな自由意志の話に移ってしまっている。

少し寄り添って、自由意志を意思決定の主体、刺激に対する反応を決める上位の意識みたいなものの存在と仮定するなら、意志決定の確信度をコードしているBA10がやっているメタ認知的な働きは主体ってことでいいですか？でもBA10の回路壊したら自由な意思決定ができなくなるってことにはならなくない？確信度の情報がなくても意思決定は変わらず行われるけどそれは自由意志じゃなくて反射ってことになるの？みたいな話になっていき、どんどん定義が薄まっていって「意思決定とその結果のモニタをする回路全部のことを主体ってことにしようか」という感じに向かう。それってほぼ脳全部じゃん。引き算的な議論をしていたはずなのにどんどん足し算する方向に向かってしまって収拾がつかない。

要するに僕には機能的な意味における自由意志の定義に求められるものがよく分からなくて、あるとも無いとも言えることについて堂々巡りをするのがしんどいのである。まあ今まさに自ら壁打ちしてしまっているので愛憎入り交じるものがあるのは認める。

禅問答するAI

最近、高度な文脈を伴う質問に対し流暢な受け答えをするAI "LaMDA" が話題になった(Ref: Is LaMDA Sentient? — an Interview | by Blake Lemoine | Jun, 2022 | Medium)。禅問答の解釈を求める質問をすると、説話の含意を読み取ったような答えを返す。これをもって「意識を持っているかもしれないAI」が生まれたと言っている人がいるらしい。この主張に対して、「学習したデータセットに含まれている問答を返しているだけだ」とか（流石に学習用のセットとテスト用のセットを同じにしてるってのは無理筋じゃない？NLPだとアリなの？）、「人間の言いそうなことを模倣しているだけだからAIに意識はない」とか言っている人がTwitterで散見された。別にそれを否定するつもりも無いが、じゃあ人間の発話はこれと違うのかっていうとそうとも言い切れないと思う。入力された刺激に対して、学習したデータセットから最適な反応を返しているだけっていう言い方をすれば、このAIと人間の脳がやっていることってそこまでかけ離れていないのではないか。AIの意識の実在を否定する人の中に、こういう言い方をしている人はあまり見なかった。チューリングテストを通るためだけに、返答内容の主義主張をいちいち選び取る自由意志は要らない。
それよりも、「解釈」のようなことを実現しているかどうかについてもっと注目すべきだと思う。含意をある程度正確に読み取るのって人間でも難しいことあるけど、これも機械学習によって成り立つのだとしたらそれは興味深い。NLPのことは正直よく知らないが、画像認識ではAIに確信度を答えさせる場合が結構あって、LaMDAも質問者の反応を見ながら文意の解釈の確信度を上げていくように返事をしているんじゃないかと思う。だとしたら文意の解釈の正しさに対する確信度はどのように決めているのだろうか。別にある程度確からしい解釈を答えたところで、答えは一意に定まっていないのだから肯定的な返事が返ってくるとは限らない。こういう問答における出力の評価値を質問者の返答に求めるのは難しい気がするがどうなんだろう。

唐揚げ大好きAIはメンチカツを買うことができるか

禅問答のように答えの定まっていない問いに対してある程度”自由に”返答するAIは、その返答内容を確定する過程でさも自由意志に従って自らの解釈を述べているかのように錯覚するが、自由意志を伴わない場合でもそれらしい受け答えをすることは可能であるので、Open Questionに対して答えを述べられることが是即ち自由意志の実在なり、とは言えないというのが僕の立場である。
最初の話に戻すと、唐揚げが大好きなAIが気まぐれでメンチカツを買ったとしても、それは自由意志によるものとは断定できないし、それをしている我々人間が自由意志に従った意思決定を行っていることの証左にもならない。プライミングだのなんだの、結局入力ありきで意思決定が変化するならそこに自由意志の実在は必須ではないからである。呂布カルマに言わせれば、「それも含めてパターン」ということになる。では、自由意志があったらいけないかというとそうでもない。定義によってはそういう主体を認められるかもしれないけど、機能の総体の名称としてでなく物理的な構造としてそういったものがあり得るかについて僕の中で答えは出ていません。じゃあ今ここに綴っているほぼ無修正の内言に主体は無いんですか？…もうこの話やめよう。

マーフィーのアレ

なんで急にこんなことを書き出したかというと、マーフィーの法則みたいなもので、Youtubeを”聴いて”たらそういう話をしている方々がいらっしゃって[2]、思うところを持ったままぼんやりと作業を続けて日付を回った頃ラジオで無関係なラッパーが同じような話を始めて大層驚き、ここまでお膳立てされたら何か書き出さないと悪いような気分になった、という経緯がある。
この「偶然に対して必然を見出して自ら行動する感じ」もすごいなんか自由意志による行動っぽいでしょ。ちょっと薄っぺらいか？

意思決定のくだりで雑にプライミングの話をしたので、ちょうど今僕が受けているプライミングの話をすると、JSTが出しているTHE・MAKINGっていう動画知ってますか？ナレーションのない工場見学みたいな番組で、Youtubeに結構な数の動画が上がっている[3]。数年前から新規の動画投稿は無くて、我々ファンは眠れぬ夜に過去の動画を漁るだけの毎日を過ごしていたんだけど、あまりの人気ぶりにJSTが気づいたらしく新作の製作が発表された。
そして昨日とうとう待望の新作が出たのである。テーマは「ミルクレープができるまで」。センスが半端ない。ミルクレープができるまで、知りたすぎるだろ。新作になってもナレーション無しの硬派な製作方針は変わっていなくて最高だった。センサーで枚数数えて一番上になるとこだけクリーム塗らない仕組みが動画のサビっぽかったけど、個人的にはローラーに張り付いたクレープ生地が剥がれやすくなるように端っこをワンタップするだけの機械が出てきたところがアツかった。
そして動画を見たあと、なんか無性にミルクレープが食べたくなっている。愚かだね人類。この愚かしさ/単純さを人間らしさとするなら、禅問答AIが持っているという”意識”って、ちょっと高度過ぎないか？なんてね。

---

脚注、または脱線

[1] 今週はスペシャルウィークというやつで、調査会社がラジオの聴取率の集計をするから各局気合を入れてプレゼント用意したりゲスト呼んだりしているらしい。でもそれって俺たちの自由意志で番組を選んでいるんじゃなくて、モノに釣られているってことになりませんか？（悪ノリ）
ちなみにTBSラジオはスペシャルウィークから降りたそうなので、今週もそういう特別企画的なのは一切無く、伊集院光は今週も庭の木を一人で切り倒した話や猫を監視するWebカメラに自分の金玉が映ってしまう話をしていました。どういうラジオ？

[2] 多分読む人が読んだらなんの動画のことか分かると思うんですけど、実は最後まで見れていなくて（作業中だったこともあり画面を見ずに音だけ聴いていて、途中で気が散っていることに気づいたあたりで視聴を諦めました）、中途半端に内容に言及するのも失礼なので仄めかし程度に留めました。もし関係者で気付かれた方いたらすみません。面白かったので後で最後まで聴きます。

[3] 僕が一番好きなTHE・MAKINGの動画は「まんじゅうができるまで」です。まんじゅう、っつーか銘菓ひよこなんだけど。目の焼付のところがすごくグロかわいくて何回も止めてそこだけ見てしまう。リョナラーではないです。アマプラで見れる「BOYS」ていう洋ドラは知ってますか？あれの目からビーム出すシーン思い出すんだよね…。