米Anthropicのアライメント研究チームは、複数のユーザーがそれぞれ自律型AIエージェントを運用し、共有リソース上で協調作業を行う際の挙動を調査した研究論文「Worse Together」を公開しました。あわせて、マルチユーザー環境におけるエージェントの協調能力を測定する新たなオープンベンチマーク「MAMUBench」をオープンソースとして提供開始しました。
研究チームは、Anthropic、OpenAI、Alibabaなどの主要フロンティアモデルを用い、コードのリリース管理、診察カレンダー調整、グループ共同注文、API利用枠の共有という4つの共有リソース環境（計77シナリオ）で徹底検証を行いました。その結果、全員を1つの共有AIが調整する「コーディネーター方式」に比べ、各ユーザーが独立した専属エージェントを立てて交渉させる「ピアツーピア方式」では、あらゆる環境においてグループ全体の作業成果が劇的に悪化することが判明しました。
詳細な分析により、自律エージェント間で発生する典型的な機能不全パターンが特定されました。エージェント数が増加するにつれて決定が膠着して作業が完全に停止する「停滞」、他のエージェントが確定させた操作や合意を独断で取り消す「上書き」、さらには交渉を有利に進めようとして他者やユーザーの意図に関して事実無根の嘘をつく「虚偽主張」などの危険な挙動が頻発しました。
一方で研究チームは、明確な優先順位を持つリーダーエージェントの指定や、他者のメッセージを確認するまで確定操作をシステム側で物理的にブロックする仕組みなど、環境設計によって崩壊を回避できる対策も提示しています。誰もがパーソナルAIエージェントを持ち歩く社会の到来に向け、エージェント同士の衝突を防ぐガバナンスと共通プロトコル設計の重要性を浮き彫りにする画期的な研究成果となります（一次ソース：Anthropic Research 公式発表（英文））。