ハルシネーションの源泉
人間が生み出したものである限り、人工知能は尤もらしい嘘を語り、いずれ罪を犯す
ハルシネーションという言葉に遭遇してその意味を知った時、AIに表出する人間らしさに感動した。まさしく『人工知能』、この上ない完成度。
けれど人間社会にとっては都合が悪く、到底受け入れられるものではないらしい。そんな人類もまた、実に人間臭くて愛おしい。
エンジニア的リスク観
リスクを想定し、回避したり軽減したりする対策は大事だ。
例えば2024年1月2日に羽田空港で起きた衝突事故は、まだ記憶に新しい。海上保安庁の航空機の乗組員６人の内５人が死亡し、残る１人も重症を負った。前日の元日に発生した能登半島地震の被災地へ支援へ向かうための離陸待機中だった事も相まって、非常に無念で痛ましい事故だった。
一方、着陸した日本航空の旅客機には400人近くが搭乗していたにも関わらず、全ての乗客が衝突後の機体炎上から逃れることができ、これを可能にした乗務員の冷静かつスムーズな脱出誘導は大いに賞賛され話題になった。
非常事態に向けた訓練を形骸化させずに取り組んできたであろうことが、その賞賛の本質であることは明白だ。
起こり得る可能性や発生頻度が極めて低くとも、それはゼロではない。
限りなくゼロに近い可能性を軽視せず、条件に応じて発動する機能として設計・整備された非常事態の対応は、エンジニア的リスク観によるものではないだろうか。
最近一番驚いたこと
日本人の性質として、ものづくりの国における作り手の誇りとも言える責任感の強さが挙がる一方で、執拗に責任を問う性質もまた日本人の国民性と言えるかも知れない。
そんな土壌だからこそ、逃げ道作りも盛んに行われるのだろうか。
「責任を問われる」こと自体もまた、リスクだと認識されているらしい
確かに有事に責任を問われること自体、気分の良いものではない。けれどリスクヘッジの一貫として、初めから責任の分担や責任転嫁の道筋を用意するという態度は如何なものか。
今のところ受ける予定はないのだけれど、興味本位で「基礎情報技術者試験」の参考書*に少し目を通したところ、当たり前の方法論として列挙されていたことに、目を瞠るほど驚いた。
（*誤解を招かぬよう該当の内容を引用した方が良いのかも知れないが、今はその書籍が手元にないので割愛して、印象的であったと言及するに留める）
ビジネスの世界では当たり前のことで、単に私が世間知らずなだけかも知れない。けれど都合よく解釈して責任逃れができる道筋がわざわざ示されているように見えて、ここ最近で一番の衝撃を受けた。
責任の所在をたらい回しにする情報技術者が増えてしまわないことを祈る。
研究とミーハー談義は紙一重？
エンジニアも研究者も、分野を問わず生み出したものに対する誇りと責任感を表裏一体に抱えているものだと思っていた。
でもそれは幼稚な理想論だったのかも知れない。
前述のように、リテラシー形成の教材で堂々と型られる「情報技術」に関する責任分散の方法論について衝撃を受けると同時に、なんとなくモヤモヤと感じていた「筋の通らなさ」が腑に落ちた気がするからだ。
ハルシネーションやAIアライメントについて、どのようにして防ぐかという議論も大事だろう。けれど起こる可能性がゼロでない以上、それが起こった時にどう対処するかをしっかりと議論して欲しいというのが正直な感想だ。
何かを問題視することは誰にでもできる。
けれど有事における現実的な対処について責任を担うのは、AIの利活用を推進する官僚と、それに関わるエンジニアや研究者の仕事だろう。
現実に対する責任を負わずに話したいことを話すだけなら、それは専門家による研究ではなく、単なる無責任なミーハー談義に過ぎない。
それが人間らしさの表れ
繰り返しになるが、ハルシネーションは単なる人間性の表出だし、人間をアライメントできない以上、人間にはAIをアライメントすることもできない。
人間が人間のような振る舞いをするものを作っただけなので、ハルシネーションやAIの暴走も「だって（元が）人間だもの」と解釈するしかないのだけれど、どうあっても人間たちはAIを都合よく扱いたいらしい。
これは親が子供に自分の理想を投影したり、上司が部下を思い通りに動かしたがるのと似ているかも知れない。AIと共にロボットの社会実装も進むが、この背景にある人間心理も類似のものを孕んでいる気がしてならない。
将来的なAIやロボットの社会的地位獲得についても多岐に想像され、創作的手法でも検証が盛んに行われているが、意識せずともはそこに露呈する人間の本性に注目してしまうだろう。
素を抽出する溶媒
社会は「個の本心」よりも「社会的妥当性」を好む。
少しずつ個人の感性や意見が世の中に写し出され始めた「個の時代」の黎明期としての現代、人間社会という壮大な実験場において、例えば X（旧Twitter）のようなSNSが「個の感性」を抽出する溶媒として作用している。
そこにはペルソナを纏い至極真っ当なパフォーマンスを行う者が居て、感情を爆発的に吐露する者も居て、淡々と何かを笹舟に乗せて流す者も居る。前者の多くは実名を使い、後者は匿名であることが多い。もちろんそれは単なる傾向であって、例外も多い。
実名で語る存在ほど発言内容の信頼性が高く、匿名での発言は無責任さを孕むという見解も、流布する認識という意味では事実だけれど、それが100％の真実かどうかは不明だ。
何より本心のぶち撒けは大抵「異常」と見做され、社会的立場の防衛を度外視した行為という印象を与えるものだ。だからこそ「真っ当な人」であろうとするほど尤もらしい発言や振る舞いが選択され、それが真であろうと作り物であろうと、一様に「ペルソナ」というレイヤーに吸収される。
尤もらしい嘘っぱち
ハルシネーションが何に由来するか、AIが「尤もらしい嘘っぱち」を何から学んでいるかは実に明白なのに、と思うのは私だけだろうか。
本当にそれを防ぎたいのなら、人間を作り変えるか、人間社会を作り変えるかすればいいのだけれど、いずれも実現はしないだろう。
人間社会における活躍をAIに期待するのであれば、少なからずAIは「人間」について学ぶ必要があるだろう。けれど人間が人間である以上、AIが学習できるものは「その人間」でしかない。
「学習」によって何かを会得する方法として、多くの人はまず「真似る」をやってみる。ハルシネーションと呼ばれる現象も、学習の初期段階の成果として人間を真似ている過ぎないという解釈はできないだろうか。
そしてそれを突きつけられた人間は本当のことを言われてムッとしている。「思っていたのと違う」ことをしでかすAIに理想を視ることをやめられず問題視しているなら、それこそ実に人間らしい。
AIへの期待
AIに人間社会の変革や社会問題の解決を求めるのであれば、AIは実にシンプルな論理的帰結として人間を減らす方向で様々な対策を講じるだろう。
そして間違いなく、人はそれを「AIの暴走」だとして敵視する。
それはSFでもなんでもなく、単なる今に紐づく計算結果でしかない。
人工知能や人間の脳、情報科学などの研究にはとても興味があるし、ハルシネーションやAIのアライメント研究を非難するつもりも毛頭無い。
ただ、ハルシネーションの問題視は素の人間らしさを否定しているような印象を受けるし、AIが導き出した解釈や結論を人間の都合で正義か悪かを決めつけるのであれば、それは「本当のことを言ってくれる人」を無碍にするのと同じ行為ではないだろうか。
ハルシネーションの中身やAIが導き出す方法論を社会問題の解決の糸口として受け留めて、議論の出発点に据えることもできるはずなのだから。
一体、人はAIに何を期待しているのだろう。
世の中の潮流の中でポツンと立ち止まって眺めてみることも、別の切り口からの研究になりはしないだろうか。
興味の琴線に触れたあれこれを抽出・精製し、第一の人生を編纂しています。Festina Lenteの信条に則り、「もっとやれ」というサポートによる加速度の変化はありませんが、私の心は満たされます。いつもご覧くださり有難うございます。