![見出し画像](https://assets.st-note.com/production/uploads/images/137378625/rectangle_large_type_2_a44df8f930ac69f65b4aff6e1c98620b.png?width=1200)
ハルシネーション対策に有効?!リサーチに使える「Perplexity」
1 生成AIの課題 "ハルシネーション"とは
最近の生成AIの進化には目を見張るものがありますね。
AI技術の発展に伴い、私たちの生活にも多くの変化が訪れていると感じている方は少なくないと思います。
しかし、生成AIは決して万能なものというわけではありません。
生成AIにも課題と言うべきものがあります。
代表的な課題が「ハルシネーション」と呼ばれる現象です。
ハルシネーションとは、AIが間違った出力をしてしまうことを指します。
しかも厄介なのは、生成AIはこうした間違った出力をもっともらしい文章で出力する点です。
そのため、私たちが見逃してしまう恐れがあります。
したがって、生成AIを活用する際は、常に「間違った出力をしていないか」を意識して、確認をする作業が欠かせません。
特に自分の詳しくない分野に関する出力には注意が必要で、疑わしい点があれば別の情報源で確かめるよう心がけるのがよいと思います。
しかし、毎回別の情報源にあたって確認をするのは非常にしんどい作業ですよね。
この部分も生成AIに手伝ってほしいです。
2 ハルシネーション対策
そこで、この課題を克服する方法として考えられるのは、生成AIに回答とともに回答作成にあたって参照した情報、具体的には参照したWebページへのリンクを出力させることです。
こうすることで、そのリンク先を確認すれば、生成AIが出力したことが本当に書かれているのか、確認をすることができます。
(言うまでもありませんが、そのWebページの記載が正しいかどうかの確認ももちろん必要です。)
3 IT用語解説GPTの試行錯誤
さて、この観点から、自分の知らないことを尋ねた際に、根拠となるWebサイトへのリンクとともに回答を出力をしてくれるとリサーチの役に立つだろうと考え、以前作成したものがありました。
それが、IT用語解説のGPTです。
私自身、さまざまなIT用語に触れることがありますが、そのすべてを知っているわけではありません。
他方で、私より詳しくない人にIT活用について伝える場面もあります。
そんな私にとって、知らないIT用語の意味内容を解説するとともに、ITに詳しくない人にとって専門用語を使わないわかりやすい説明も同時に考えてくれて、しかも根拠となるWebページも提示してくれるGPTがあると助かるなと思いました。
そこで、IT用語解説のGPTを作ってみたのです。
最初は、根拠となるWebページの出力まで求めなかったのでまずまずの挙動を示してくれました。
しかし、Webページの出力までするようにinstructionsを工夫したところ、思うような挙動を示さなくなってしまいました。
Webページの内容に出力内容が引っ張られてしまし、私の指定した出力形式を守らなくなってしまったのです。
そのため、あまり使わなくなってしまいました。
4 Perplexityの活用
そこで、最近多くの方が注目しているであろう、Perplexityを使ってみることにしました。
Perplexityは、対話型検索エンジンと呼ばれるもので、ChatGPT等と異なり、検索に力が入れられているサービスです。
有料会員向けの記事ですが、Perplexityでできることのイメージは掴めます。
単純に、この用語を解説してくださいと入力しても良いのですが、用語の解説の中に専門用語が入っていると、結局よくわからないということがあります。
専門用語を含んだ解説と専門用語を含まない解説の2種類を出力するようにしてもらえたら、わかりやすくなるのではないかと思いました。
そこで、次のプロンプトを入力して、IT用語の解説を依頼してみました。非常にシンプルなもので、たいした工夫もしていません。
次のIT用語について、専門用語を使った説明と専門用語を使わない説明を出力してください。
# IT用語
すると、専門用語を含む解説と含まない解説を表示し、さらに根拠となるWebページへのリンクもつけてくれました。
たまに、どうしてこのWebページを参照しているのかわからないということもありますが、ちょっとしたリサーチには十分です。
こういう便利なAIが出てきてくれるのは非常にありがたいですね。
5 生成AIの賢い活用を
皆さんも、生成AIのハルシネーションという課題をどう乗り越えるか考えていると思いますが、このnoteが少しでも参考になれば幸いです。
*本noteは生成AIの支援を受けて作成しました。
この記事が参加している募集
この記事が気に入ったらサポートをしてみませんか?