生成AIのハルシネーションは原理的に排除不能。不完全性定理など数学・計算機理論で説明　モデル改良や回避システムでも不可避とする論文（生成AIクローズアップ）

生成AIのハルシネーションは原理的に排除不能。不完全性定理など数学・計算機理論で説明　モデル改良や回避システムでも不可避とする論文（生成AIクローズアップ）

元NTT基礎研究所AI研究者&サッカー理論に基づくAI（旧IT）人材育成法提案者
岡田康義です。いつもご愛読ありがとうございます。
　
AI産業革命時代! 課題となっている生成AIのハルシネーションは、原理的に完全な排除が不可能！
理由は、生成AIの数学的・論理的な構造に根ざしており、データの不完全性、言語の曖昧性、意図の完全な理解の困難さというここですね。また * 計算理論との関連:としては、停止問題やゲーデルの不完全性定理など、計算理論の決定不能性がLLMの幻覚を不可避にする要因として指摘されています。
ハルシネーション対策数学分野でゲーデルの不完全性定理をご存知の方は、理解可能と思います。この結論から言えるのは、ハルシネーションは不可避なので、人間の経験や判断大事ということですね。

記事要旨）
生成AIのハルシネーションは、原理的に完全な排除が不可能という研究結果が示されました。
* 原因: 生成AIの数学的・論理的な構造に根ざしており、データの不完全性、言語の曖昧性、意図の完全な理解の困難さなどが挙げられます。
* 計算理論との関連: 停止問題やゲーデルの不完全性定理など、計算理論の決定不能性がLLMの幻覚を不可避にする要因として指摘されています。
* 対策の限界: モデルの改良や事実確認システムの導入など、さまざまな対策が考えられますが、完全な排除は困難です。　
* 創造性との両立: ハルシネーションは、生成AIの予測不可能性という特徴の裏返しであり、同時に創造的な出力をもたらす可能性も秘めています。
結論: 生成AIのハルシネーションは、技術的な課題としてだけでなく、AIの性質そのものに関わる深い問題であることが示唆されています。

https://news.yahoo.co.jp/articles/fd58534f7bd3a397d4ea9dca94f71627f9a7ab5c

p.s
"未来の仕事は誰が生き残るんだろうって迷うあなたへ。AI時代のキャリア相談、無料でします"

2023.3.１日
⓵電子割符を世界へ普及する会発足、
パスワード忘れに悩んでいる方歓迎！
会員募集中。
⓶東京 AIクラブでは AI技術を身につけて、
副業や AI技術者として、高単価な仕事をしたい人を支援しています。【入会希望の方は岡田康義までお尋ねください】　　
#サッカー理論に基づくAI （旧IT）人材育成法提案者
#岡田康義AI オンラインサロン開設
チャットでchat GPTなどの使い方の方法についてお答えします。
#電子割符を世界へ普及する会
以下のファミリークラブにもAIプロンプトエンジニア育成コース設置しました。
#東京AIクラブ （旧東京ITクラブ）
#神奈川AIクラブ （旧神奈川ITクラブ）
#名古屋AIクラブ （旧名古屋ITクラブ）
#沖縄AIクラブ
#湯河原AIクラブ
#サッカー理論に基づくAI （旧IT）人材育成法提案者