AIは嘘ばかりのツールなのか？
理想だったAI→知性があり正確に迅速にサポートしてくれてめんどくさいことを一気に解決してくれる
— 青之スピノサウルス🕶️ARK建築士恐竜Vtuber (@AonoSpinosaurus) September 2, 2024
現実のAI→間違いだらけでフェイクを大量にばらまく詐欺ツール
人のサポートがないと1+1すら分からなくなる
おまけに電気と水を大量に無駄遣いする
あと知性はないのでそもそもAIじゃない https://t.co/of2osXh1jj
生成AIは、ハルシネーションなどが出て結構間違いますが、必ず間違うわけでもアップデートされないわけでもありません。
👆たまたまハルシネーションが出たのか、改善されたのか不明ですが、なおってました。（改善には時間がかかるので、むしろ間違いの方がたまたまでしょう）
生成AIに何か質問するときは、複数回聞いたり、多角的に質問したり、リロードして生成AIと接続し直す事で回答が変化します。
その上で、ハルシネーションがあったとしても、かなり便利なツールと言うのは間違いありません。
そもそも生成AIは、正しい答えを出すツールではありません。文章を作成するツールなのです。
答えや知識を持たないときに、それでもあえてハルシネーションが出ても、なんとかしてそれらしい文章を作ってるいるだけなのです。
むしろ、最近は生成AIの性能が向上し、正しい答えが増えているので、その事を多くの人が忘れているだけなのかもしれませんね。
それでも正確な情報が欲しい人は、工夫すると精度が上がります。
特にオススメなのがランキングです。
生成AIにランキングを作らせてみて下さい。かなり回答の精度や情報の価値が上がると思います。
以下はハルシネーションについてランキング形式でまとめてもらった文章です。
生成AIにおけるハルシネーションの問題を、簡潔にまとめたランキングです。
1. リスクと影響
ハルシネーションが医療や法務などの高リスク分野で誤情報を生むと、重大な社会的影響があります。
2. 原因とメカニズム
データの不完全さやバイアス、未学習領域での応答が主な原因です。
3. 検出と対策
リアルタイム検出技術の向上と、データセットの改善が基本的な対策です。
4. ユーザー信頼の低下
ハルシネーションが頻発すると、AI全体への信頼が低下します。
5. 応用分野別の影響
医療や法務では深刻な影響があり、クリエイティブ分野では想像力を助長する場合もあります。
6. 技術的進展と課題
アルゴリズムの改良やAIの透明性向上が、ハルシネーションを減らすための鍵です。
7. 継続的な評価とモニタリング
ハルシネーションを完全に防ぐことは難しく、継続的な評価と管理が必要です。
今のところ、生成AIをうまく活用するには、人間の指示が重要なようです。