AIアライメント問題の根底

クリエイティブAI講座：海上保安庁パンフで画像生成AIを利用し、炎上して慌てて撤回した (youtube.com)

松田先生が最後に「ああいうのは論理じゃないですよ、感情ですよ」と仰られた、その「感情という作用」の問題が、AIアライメントの根底にある気がします。また同様に「正義感」の主張ということも仰られましたが、それら両方のトピックスが『新約』にあると思います。

　『ヨハネ福音書』8：1～12』律法学者とパリサイ人が、姦淫の場で捕らえられた女を連れて来て、真ん中に立たせ、イエスに言った。「先生、この女は姦淫の現場で捕らえられました。モーセは律法の中で、こういう女を石打ちにするよう私たちに命じています。あなたは何と言われますか。」彼らはイエスを告発する理由を得ようと、イエスを試みてこう言ったのであった。だが、イエスは身をかがめて、指で地面に何か書いておられた。 しかし、彼らが問い続けるので、イエスは身を起こして言われた。「あなたがたの中で罪のない者が、まずこの人に石を投げなさい。」そしてイエスは、再び身をかがめて、地面に何かを書き続けられた。彼らはそれを聞くと、年長者たちから始まり、一人、また一人と去って行き、真ん中にいた女とともに、イエスだけが残された。イエスは身を起こして、その女に言われた。「婦人よ。あの人たちは今どこにいますか。あなたを罪に定める者はなかったのですか。」彼女は言った。「だれもいません。」そこでイエスは言われた。「わたしもあなたを罪に定めない。行きなさい。今からは決して罪を犯してはなりません。」
　『旧約』ではイスラエルという国・民族がその統一基盤とした神ヤーウェへの信仰が離れたということを、姦淫の罪として表象しました（ソロモンの諸国の王女との計略婚により宗教文化混交が起き、国の分裂に繋がったと、以後の預言書編集がなされました）。この罪に、神の「正義」が問いかけ、そして民への愛によって赦すという物語構造になっています。
　上の『新約』はそれを下敷きにしています。面白いのは、人々が「正義感」という感情をむき出しにしている時、イエスが「身をかがめて地面に何やら書かれておられた」という、感情をはぐらかす行動をとって鎮静化させた点です。さらに感情の高ぶりを抑え、「論理」が投げ与えられてから、その理解をしていったのが年長者からだとも物語られています。

　AIアライメントの問題も、AIが人間の能力を超えた時、人間を領分（生存権・圏）も奪うのではという不安の感情が表に出ますが、考えてみれば、領分・領土＝テリトリー争い＝戦争をするのは人間であり、AIを兵器・武器に使うことが問題なのだろうと思います。AIの「論理」による計算力には、C.シャノン等が言うように本来、「価値や倫理」という評価関数とパラメータ―が、人間感情の様に発生付随するようには思えません。

「人間は理性的動物である」
　理性、論理（ロゴス＝御言葉）の関数は、種的普遍性に基く評価（価値・意味）を有さず、個的傾きを定めるパラメーターもない。
　動物、生物は、評価関数が定められ、個々の傾きで生存を模索する。

　理性そのものは、主客一致が現実。
　主観意識にとっては、生世界が現実とされる。