【論文読んでみた】 LLM マルチエージェント設計のための16パターンと、本記事が独自に設定した６つのカテゴリ
またまた興味深い論文が出ていましたので紹介させていただきます。
タイトル：Agent Design Pattern Catalogue: A Collection of Architectural Patterns for Foundation Model based Agents
著者：Yue Liu, Sin Kit Lo, Qinghua Lu, Liming Zhu, Dehai Zhao, Xiwei Xu, Stefan Harrer, Jon Whittle
所属：Data61, CSIRO
リンク：https://arxiv.org/abs/2405.10467
LLMを使ったシステムの全体アーキテクチャやソフトウェアレベルの設計について考えるとき、エージェントをどのように構成するのかは、まだ完全なベストプラクティスがない状態のため日々みなさん試行錯誤していると思います。
エージェントの構成やマルチエージェント化する際にエージェントをコンポーネントとして考えるための参考になると思います。
この論文では以下の16個のエージェントパターンの活用が紹介されています。
(この記事にあるサマリーはChatGPTを使って生成しています。正確ではない評価があるかもしれませんが、その際はコメントまでお知らせください)
１６のパターン
1. パッシブゴールクリエーター (Passive Goal Creator)
概要: ユーザーの指示を受け取り、目標を分析・生成する。
利点: ユーザーとの対話を通じて目標を理解し、インタラクティブかつ直感的な体験を提供する。
欠点: ユーザーの入力が不明確な場合、エージェントが誤った目標を生成する可能性がある。
2. プロアクティブゴールクリエーター (Proactive Goal Creator)
概要: ユーザーの意図を理解し、必要に応じてセンサーや他のツールを使用して目標を生成する。
利点: マルチモーダルな入力を活用し、より正確な目標生成を可能にする。
欠点: マルチモーダルな入力処理によりコストが増加する。
3. プロンプト/レスポンスオプティマイザー (Prompt/Response Optimiser)
概要: 入力と出力のフォーマットと内容を最適化する。
利点: 標準化と精度の向上により、相互運用性を確保する。
欠点: コンテキスト情報を適切に捕捉できない場合、正確なプロンプトやレスポンスを生成するのが難しい。
4. RAG (Retrieval Augmented Generation)
概要: 内部またはオンラインデータからの情報取得を通じて、計画生成の精度と信頼性を向上させる。
利点: データプライバシーを維持しつつ、最新かつ正確な情報を提供する。
欠点: パラメタライズされた知識のメンテナンスには追加のコストがかかる。
5. ワンショットモデルクエリ (One-Shot Model Querying)
概要: モデルを一度だけクエリして必要なすべてのステップを生成する。
利点: 高効率でコスト効率が高く、簡潔なタスクに適している。
欠点: 複雑なタスクには対応できず、過度に単純化する可能性がある。
6. インクリメンタルモデルクエリ (Incremental Model Querying)
概要: 各ステップごとにモデルをクエリして計画を生成する。
利点: 補完的なコンテキストを提供し、推論の確実性と説明可能性を向上させる。
欠点: 複数のクエリがコストと時間の増加を引き起こす可能性がある。
7. シングルパスプランジェネレーター (Single-Path Plan Generator)
概要: 目標達成に向けた一連のステップを生成する。
利点: 一貫性と効率性を高める。
欠点: 柔軟性が低く、多様なユーザーの好みに対応できない。
8. マルチパスプランジェネレーター (Multi-Path Plan Generator)
概要: 各ステップで複数の選択肢を生成し、包括的な計画を提供する。
利点: 人間の好みに合わせた柔軟な対応が可能。
欠点: 通信のオーバーヘッドが増加する。
9. セルフリフレクション (Self-Reflection)
概要: エージェントが自らの計画と推論過程を自己評価し、改善案を提供する。
利点: 継続的な改善と推論の確実性を向上させる。
欠点: 自己評価の精度はエージェントの能力に依存する。
10. クロスリフレクション (Cross-Reflection)
概要: 他のエージェントやモデルからのフィードバックを利用して計画と推論過程を改善する。
利点: 多様な意見を取り入れ、包括的な改善案を生成する。
欠点: フィードバックの品質は他のエージェントの能力に依存する。
11. ヒューマンリフレクション (Human Reflection)
概要: 人間からのフィードバックを収集し、計画と推論過程を改善する。
利点: 人間の好みに合わせた計画の調整が可能。
欠点: 人間のフィードバックが偏っている可能性がある。
12. 投票ベースの協力 (Voting-based Cooperation)
概要: エージェントが意見を自由に提供し、投票を通じて合意に達する。
利点: 公平性と説明可能性を確保する。
欠点: 投票プロセスにより通信のオーバーヘッドが増加する。
13. ロールベースの協力 (Role-based Cooperation)
概要: エージェントに役割を割り当て、それに基づいて決定を行う。
利点: 役割分担による効率的なタスク処理とスケーラビリティの向上。
欠点: 役割分担の複雑さによりオーバーヘッドが増加する。
14. ディベートベースの協力 (Debate-based Cooperation)
概要: エージェント間で議論を行い、合意に達するまで調整する。
利点: 適応性と批判的思考の向上。
欠点: 議論プロセスの複雑さにより通信と計算のオーバーヘッドが増加する。
15. マルチモーダルガードレール (Multimodal Guardrails)
概要: 基盤モデルの入力と出力を制御し、特定の要件を満たす。
利点: ロバスト性、安全性、標準への適合性を確保する。
欠点: ガードレールの実装と維持にはリソースが必要。
16. ツール/エージェントレジストリ (Tool/Agent Registry)
概要: 多様なエージェントやツールを選択するための統一されたソースを提供する。
利点: 発見性、効率性、適切なツール選択を向上させる。
欠点: レジストリの実装と維持には追加のコストがかかる。
なるほど〜。いままで意識して考えてたものもあれば、無意識に当たり前のように構成に入れてたもの（RAGなど）などもあり、かなり網羅的に整理されている印象です。
独自設定する６つのカテゴリ
１６個のパターンに整理されたのはよいのですが、ちょっと数が多いかなと思います。パターンを整理したカテゴリがあるとわかりやすそうですね。ということで、ChatGPT 4oに更に整理してもらいました。
A. ゴール生成と計画
パッシブゴールクリエーター
プロアクティブゴールクリエーター
シングルパスプランジェネレーター
マルチパスプランジェネレーター
これらのパターンは、エージェントがユーザーの目標を理解し、それに基づいて計画を生成するためのものです。
B. プロンプトとレスポンスの最適化
プロンプト/レスポンスオプティマイザー
RAG (Retrieval Augmented Generation)
ワンショットモデルクエリ
インクリメンタルモデルクエリ
これらのパターンは、エージェントがユーザーからの入力を最適化し、正確な出力を生成するためのものです。
C. フィードバックと改善
セルフリフレクション
クロスリフレクション
ヒューマンリフレクション
これらのパターンは、エージェントが自身のパフォーマンスを評価し、改善するためのフィードバックメカニズムを提供します。
D. 協力と決定
投票ベースの協力
ロールベースの協力
ディベートベースの協力
これらのパターンは、複数のエージェントが協力してタスクを完了し、意思決定を行う方法を提供します。
E. 安全性と標準遵守
マルチモーダルガードレール
このパターンは、エージェントが安全で標準に準拠した方法で動作するようにするためのものです。
F. エージェントとツールの管理
ツール/エージェントレジストリ
１６のパターンが６つのカテゴリに再分類されました！これが簡単にできるからLLMはもう手放せないんですよねぇ〜。
まとめ
さまざまなシステムを設計する際にアーキテクチャのパターン化はシステム構成を素早くまとめることにも寄与しますし、もれなく考慮すべき点に注意を向けられる効果、また、システムやコンポネントの再利用性を高めてくれるので生産性の向上につながります。
LLMを使ったマルチエージェント構成はいまだ完全な正解がありません。だからこそ面白い時期ではありますが、目的や達成したいゴールによっても構成は変わってくるので、考えることが多すぎて大変です。構成を変化させながらトライを繰り返す必要がある今だからこそ、使えるパターンをまとめておいてもらえるのはチーム内での議論にも使えて便利ですよねー。
おもしろそうだなと思った方はぜひ論文も読んでみてください〜。
https://arxiv.org/abs/2405.10467
いかがでしょうか。感想おまちしてますー。
この記事が気に入ったらサポートをしてみませんか？