なぜAIエージェントは衝突するのか
マルチエージェントシステムが失敗する原因の多くは、エージェント同士が互いに干渉し合っていることにあります。
私は、2つのエージェントが40分間も互いの作業を打ち消し合う様子を目の当たりにしました。私のセットアップには、リサーチ、コーディング、レビュー、ユーザーサポート、ナレッジマネジメントのエージェントが含まれています。理論上は賢明に見えますが、実際には、メモリを共有することを拒む猫のように振る舞います。
問題はコンテキストから始まります。
各エージェントが見ている世界は、ほんの一部に過ぎません。リサーチエージェントは最新の論文は知っていますが、製品のロードマップは無視します。コーディングエージェントはコードベースは知っていますが、ユーザーのフィードバックを忘れてしまいます。彼らは同じメモリを共有していないため、互いの領域を侵食してしまうのです。
これを解決するために、中央のベクトルデータベースを使用してみましたが、失敗に終わりました。
データベースがノイズを生成しすぎたのです。あるエージェントが20ページの要約をワークスペースに放り込むと、別のエージェントがその膨大なテキストを使ってUIの決定を下そうとします。その結果、エージェントは混乱してしまいます。それは、全従業員が毎日長いメモを書き、他の全員がそれをすべて読むことを期待しているオフィスのようなものです。
調整（コーディネーション）もまた困難な課題です。エージェントは指示を待ち続けて永遠に動かなかったり、確認もせずに作業を書き換えたりします。そして、無限ループに陥るのです。
私はこれを解決するために、2つの方法を見つけました。
メモリの受け渡し（Memory handoffs）: エージェントにすべてを見せることはしません。代わりに、各エージェントがタスクを完了した際に、短い一文だけを書くように強制します。次のエージェントはその一文だけを読みます。これによりノイズが取り除かれ、シグナルが明確に保たれます。
人間による調整（Human coordination）: エージェントが自律的に組織化することを期待するのをやめました。特定のチェックポイントで、私がコーディネーターとして動きます。彼らの計画をレビューし、難しい決断を下します。これにより、ループを防ぎ、方向性を一致させることができます。
小規模なセットアップでは、あなたの注意力がボトルネックになります。あなたが「接着剤」として機能しなければなりません。
未来は、最も多くのエージェントを持つ人のものではありません。混沌を生むことなく、エージェントを協調させることができる人のものなのです。
出典: https://dev.to/elenarevicheva/why-your-ai-agents-keep-stepping-on-each-others-toes-4g7d
オプションの学習コミュニティ: https://t.me/GyaanSetuAi