RAGTruth: A Hallucination Corpus for Developing Trustworthy Retrieval-Augmented Language Models

RAGTruth: A Hallucination Corpus for Developing Trustworthy Retrieval-Augmented Language Models

以下は、上記の論文のアブストラクトをChatGPTに解釈させたものです。解釈の正確性について保証はいたしません。

• 論文タイプ（総説・原著論文などの種別や掲載誌など）：

  • 論文のタイプや掲載誌については、文中に記載がありませんのでわかりません。追加の情報があれば、それを教えていただければと思います。

• 本研究の背景と関連研究：

  • 本研究の背景は、大規模な言語モデル（LLMs）が情報の幻覚（hallucination）を生成する傾向があることです。LLMsは一般的に非常に優れたパフォーマンスを示すものの、時折、合理的に見えるが事実ではない情報を生成することがあります。このような幻覚は、医療診断やニュースの要約などの実世界のシナリオでのLLMsの信頼性を著しく低下させます。そのため、幻覚を低減するための方法が研究されています。Retrieval-Augmented Generation（RAG）は、LLMsに最新の有用な情報を提供するために広く使用されており、幻覚を大幅に低減することができます。しかし、RAGを用いても、LLMsはまだ根拠のない情報や取得した情報と矛盾した主張を生成することがあります。この幻覚現象の理解を深めるためには、幻覚の程度を測定できるベンチマークデータセットを作成することが重要です。

• 本研究の目的とその重要性：

  • 本研究の目的は、RAGのシナリオにおける単語レベルの幻覚を分析するために特化したコーパス「RAGTruth」を作成することです。RAGTruthは、さまざまなドメインとタスクにおける幻覚の程度を評価できるように設計された大規模なデータセットです。このデータセットでは、多様なLLMsを使用して約18,000の自然生成応答を取得し、徹底的な手動注釈を行い、幻覚の強度を評価しています。さらに、既存の幻覚検出手法の有効性を批評的に評価しています。また、RAGTruthのような高品質のデータセットを使用することで、比較的小規模なLLMsを微調整し、GPT-4などの最新の大規模言語モデルを使用した既存のプロンプトベースのアプローチと競争力のあるパフォーマンスを達成できることを示しています。

• 本研究で用いた材料やデータの詳細：

  • 本研究では、まず、3つのRAGタスク（要約、質問応答、データtoテキスト生成）に対して、既存のデータセットと新たに収集したデータを用いました。要約タスクでは、CNN/Daily Mailデータセットのトレーニングセットから文書をランダムに選択し、また最近のニュース記事からもサンプルを収集しました。質問応答タスクでは、MS MACROデータセットからランダムにサンプリングを行い、各質問に対して3つの取得文を残しました。データtoテキスト生成タスクでは、Yelpオープンデータセットから事前に選んだレストランやナイトライフの企業をランダムにサンプリングしました。それぞれのタスクに対して、6つの異なるモデルから生成された応答を収集しました。

• 本研究で何をどのように，どこまで明らかにした？

  • 本研究では、RAGTruthデータセットを作成し、その詳細および特長について述べました。また、データセットを使用して、主要なLLMsの幻覚発生率や幻覚検出手法の比較を行いました。さらに、RAGTruthデータセットを使用してLLMsを微調整することで、幻覚検出のパフォーマンスを改善できることを示しました。

• 本研究の有効性はどのように検証した？

  • 本研究では、RAGTruthデータセットを使用して、既存の幻覚検出手法と比較しました。また、RAGTruthデータセットを使用して、LLMsを微調整することで幻覚検出のパフォーマンスを向上させることを実証しました。これにより、RAGTruthデータセットの有用性と、RAGTruthを使用した幻覚検出手法の開発の可能性を示しました。