記事一覧
[論文解説]Retrieval-Augmented Generation (RAG)に対するブラックボックス意見操作攻撃の脆弱性と影響
要点Retrieval-Augmented Generation (RAG)は、大規模言語モデルの幻覚問題を軽減するが脆弱性がある。
本研究では、ブラックボックス攻撃によりRAGによる生成を操作し、ユーザーの認知と意思決定への影響を評価した。
実験結果は、意見操作攻撃がRAGの生成する内容に大きな影響を与え、誤情報や偏向情報をユーザーが受け入れるリスクがあることを示している。
論文情報論文タ
[論文解説]クエリフォーカス要約のためのGraphRAG
要点GraphRAGは、クエリフォーカス要約(QFS)タスクにおいて、従来のRAGアプローチの限界を克服し、全体的なテキストコーパスに対する質問に対して包括的かつ多様な回答を生成する手法です。
GraphRAGは、大規模言語モデル(LLM)を活用して、ソースドキュメントからエンティティ知識グラフを構築し、関連するエンティティグループのコミュニティ要約を作成します。
このアプローチは、クエリに対して
[論文解説]報酬勾配を用いたビデオ拡散モデルの適応:Video Diffusion Alignment via Reward Gradients
要点大規模なビデオデータセットを収集することの困難さを解決するため、報酬モデルを利用して、ビデオ拡散モデルを効率的に適応させる手法「VADER」を提案。
VADERは、報酬モデルからの勾配をビデオ拡散モデルに逆伝播させることで、計算およびサンプル効率を向上させる。
VADERは、テキストとビデオの整合性や美的評価など、さまざまなタスクにおいて既存の手法よりも高い性能を示す。
参照論文タイトル