生成AIの問題点｜X まとめ

本日 X に投稿した生成AIの問題点に関するつぶやき

＋＋＋＋＋＋＋

Bing AI はURL教えてくれるけどトンチンカンな時もある
Bard は固有名詞がやや架空のことがあり、URLを教えてと尋ねると次の答えが返ってきた。

「私はテキストの処理と生成のみを目的として設計されています。すみませんが、そちらについてはお手伝いできません。」

＋＋＋＋＋＋＋

生成AIを参考にするのはいいけど、思わぬところを間違えてるっていう点は信頼性高いとはいえないし、エビデンスを確認するために余計な情報を調べないといけなくなるという点で、本当に効率的なのかというのは、冷静に見る必要があるよね。
すごく回り道をしてしまうこともある。

＋＋＋＋＋＋＋

専門家に尋ねた場合、即答されたことは概ね正しいし、仮に間違えたとしてもなぜ間違えたのかという理由が分かるケースが多い。
しかし生成AIの間違え方は唐突なもので、なんか知らないけど違うやん！っていうことになる。

考察

どうやらネット上に十分な情報がない場合、生成AIは架空の情報を作り出すらしい。
だから未開拓領域について調査しようとしたときに、ありもしないことを議論してしまう可能性がある。