AIのミス「ハルシネーション」対策：新手法「COVE」とマインドエージェントの進化

※この記事では、↑こちらのYouTube動画の脚本内容をそのまま文字起こししたものとなります。

こんばんわ〜。
今夜は、大規模な言語モデルの中でも特に「ホールシネーション」という現象に焦点を当ててお話しします。

ホールシネーションとは、言語モデルが正確でない情報を生成することを指します。
今日の主題は、このホールシネーションを減少させるための新しい方法、「チェーンオブヴェリフィケーション（COVE）」についてです。
この方法は、モデルが初めに応答を生成し、その後、その応答をファクトチェックするための検証の質問を計画し、
それらの質問に独立して答え、最終的に検証された応答を生成するというステップを経ています。

大規模な言語モデルは、テキストドキュメントの巨大なコーパスにトレーニングされています。
これらのモデルのパラメータ数が増えると、クローズドブックQAのようなタスクの精度が向上し、より正確な事実のステートメントを生成することができるようになります。
しかし、最も大きなモデルでさえ、トレーニングコーパスで比較的まれに発生する事実に関しては失敗することがあります。
これらの事実的に不正確な生成は、ホールシネーションとして参照されます。

COVEの方法は、このホールシネーションを減少させるための新しいアプローチとして開発されました。
COVEの核心は、モデルが自分自身を検証するためのプランを生成し、実行する能力にあります。
具体的には、モデルはまずベースラインの応答を生成します。

次に、このベースラインの応答と元のクエリに基づいて、検証の質問のリストを生成します。
そして、それぞれの検証の質問に答え、元の応答との間の矛盾や誤りをチェックします。

最後に、検証の結果を取り入れた改訂された応答を生成します。
この方法は、モデルが自分の仕事をチェックする方法を計画し、実行する能力に基づいています。

次回のエピソードでは、AIとプロンプトエンジニアリングのさらなる進化について探求します。

毎日のアップデートについて知りたい方は、私たちのポッドキャストをフォローしてください。
お楽しみに。

こんばんは、リスナーの皆さん。
今夜は、AIの最前線に立つ研究に焦点を当てて、特にプロンプトエンジニアリングとゲームの相互作用について深く探る時間となります。

最近の研究では、複数のエージェントが協力してゲーム内の課題を解決する「マインドエージェント」という新しいシステムが提案されています。
このシステムは、ゲームのフレームワークとLLMの協力を包括する、

それでは、この興味深いトピックについて詳しく見ていきましょう。
大規模言語モデル、略してLLMは、複雑なタスクを計画し、これらのエージェントを協力して課題を完了させる能力を持っています。

しかし、ゲームのフレームワークが多数導入されているにもかかわらず、LLMと人間のNPCの協力を包括する一般的なマルチエージェント協力の
インフラストラクチャに関するベンチマークが不足しています。
この研究では、ゲームの相互作用のための計画と調整の緊急能力を評価する新しいインフラストラクチャ、マインドエージェントを提案しています。
このインフラストラクチャは、LLMが複数の異なるエージェントとの複雑な調整とスケジューリングを実行することを可能にします。

この研究を通じて、GPT-4、クロード、LLaMAなどの最近導入されたLLMでゲームをプレイする評価を行いました。
そして、マインドエージェントのインタラクティブなマルチエージェント計画フレームワークを通じて、いくつかの重要な観察を行いました。
マインドエージェントは、LLMが複数の異なるエージェントとの複雑な調整とスケジューリングを実行することを可能にします。

このインフラストラクチャを使用して、GPT-4、クロード、LLaMAなどの最近導入されたLLMでゲームをプレイする評価を行いました。
そして、マインドエージェントのインタラクティブなマルチエージェント計画フレームワークを通じて、いくつかの重要な観察を行いました。
特に、ゼロショットマルチエージェント計画、高度なプロンプトを使用した計画、そしてLLMの一般的なポテンシャルについての観察が含まれています。

今日のエピソードはここまでとなります。
次回のエピソードでも、AIと最新の技術革新に関する興味深い話題をお届けしますので、お楽しみに。
そして、毎日のアップデートをお見逃しなく。
じゃ、またね。

Tweets by AInews_trend