テキスト生成AIのハルシネーションは創造性の発露か？

生成AI関連で最近思ったのは

生成AIの課題としてよく指摘されているハルシネーションですが、これって生成AIが創造性を発揮しているということの証左では？

ってことです。

ハルシネーションという単語を聞いたことがないという人はさようなら。

OpenAIやらGoogleやらのAIビッグテック界隈はこのハルシネーションをプログラムのバグのようなものとして扱っていて、アップデートするたびにハルシネーションリスクが下がりました！的なコメントを嬉々として発信してますが、それ、ちょっと違和感ありますよ。

ハルシネーションを取っ払ったAI、それってクソつまんねー人格のAIにしかならないのでは？

というか、逆に人間は脳内でハルシネーションみたいな現象を使って創造性・ユーモアを生み出しているのではないですかね。

人間の持つ創造性、ユーモアみたいなものって、例えばお笑い芸人が繰り出すボケっていうのは、ある命題に対する返答として（観客の予想する）常識的な回答を裏切って、実質関係はないが、極抽象レベルでは共通項もあるみたいな別の回答をすることで、意外性とかその落差の絶対値みたいなものによって人間は笑ってしまうんだと思うんですよ。

現に、少なくない有名人がXやらなんやらで自分のことをChatGPTに聞いてみたら事実と全然違うこと言われた！というネタで客を釣っているので、現実としてハルシネーションに面白みを感じる人は実際多いんだろうなと。

ChatGPTに特定の個人の情報を尋ねて、事実と全然違う返答をされた場合、GoogleやBingのような正確な回答を求められるサービスだと問題ですが、コミュニケーションに主軸を置くサービスだとユーモアとして受け手は捕らえられると思うし、そっちのほうが会話が円滑になる可能性があるので、そういう意味ではハルシネーションは必要不可欠なんじゃないのかなぁ。

なのに、主要なLLMがそろいもそろってハルシネーションを撲滅しようとしているのを観察していると、創造性が高くユーモアがすごいAIが出てきにくくなってしまうんじゃないかと杞憂してます。杞憂です。

話はちょっと変わるのですが、人間界のコミュニケーションの中で、人格って大事ですよね。

あずまんも言ってましたが、2023年末現在のChatGPTの返答から感じとれる人格の現状としては、早口オタクがマウンティングとってくる態様と非常に似ており、もっと多様で可愛げがあり、人懐っこい人格のAIの登場が待たれます。

同じ質問をしたとしても、返答の長さ、文章の硬さ、言葉遣い、馴れ馴れしさ、みたいな各パラメータの厚みによって、受け取る側の印象が違います。

それらを考えると、今後は生成AI人格の多様化が進みそうですね。

人格というかマンガやアニメなどの架空のキャラクターでもいいですし、実在する特定の個人を模倣した人格でもいいですが、もっと社交的な、砕けた感じで会話ができるような。
（ここで想定するのはプロンプトで指示をしなくてもデフォルトでそのような人格を持つAI）

つまんないつぶやきを入力すると全力の関西弁で面白おかしくツッコんでくる吉本芸人AI、本土の人間には理解不能なゴリゴリの沖縄の方言で会話が成立するしまんちゅAI、徹底的に論破してくるひろゆきAI（すでに実在）、みたいな。

このあたりの感覚は英語圏のAIを輸入するだけではかゆいところに手が届かなそうな気もするので、学習データの確保しやすさ、評価・チューニングしやすさを考えると国産LLMのほうが海外勢よりも有利な分野なのかもしれないですね。

ファインチューニングとかでちょろっとやれば十分みたいな説もありますが、どうなんでしょう。