マガジン
最近の記事
[論文解説]Retrieval-Augmented Generation (RAG)に対するブラックボックス意見操作攻撃の脆弱性と影響
要点Retrieval-Augmented Generation (RAG)は、大規模言語モデルの幻覚問題を軽減するが脆弱性がある。 本研究では、ブラックボックス攻撃によりRAGによる生成を操作し、ユーザーの認知と意思決定への影響を評価した。 実験結果は、意見操作攻撃がRAGの生成する内容に大きな影響を与え、誤情報や偏向情報をユーザーが受け入れるリスクがあることを示している。 論文情報論文タイトル（英語）：Black-Box Opinion Manipulation A
[論文解説]報酬勾配を用いたビデオ拡散モデルの適応：Video Diffusion Alignment via Reward Gradients
要点大規模なビデオデータセットを収集することの困難さを解決するため、報酬モデルを利用して、ビデオ拡散モデルを効率的に適応させる手法「VADER」を提案。 VADERは、報酬モデルからの勾配をビデオ拡散モデルに逆伝播させることで、計算およびサンプル効率を向上させる。 VADERは、テキストとビデオの整合性や美的評価など、さまざまなタスクにおいて既存の手法よりも高い性能を示す。 参照論文タイトル：Video Diffusion Alignment via Reward Gr
