本記事では、LLMのマルチエージェントシステムにおいて発生する「同調」についての研究を紹介します。
LLMを活用したマルチエージェントシステムは社会的な課題解決への応用が期待されていますが、人間社会で見られる同調性バイアスに類似した問題が発生する可能性が指摘されています。
そこで研究チームは新たに評価ベンチマークを作成し、マルチエージェントシステムにおける同調性の検証と、その緩和策の探求に取り組みました。
背景
複雑な問題を解決できるLLMベースのマルチエージェントシステムが実現されつつあります。例えばプラットフォームの管理や保守などにおいての活用が期待されています。
一方で、人間の集団で見られる同調性バイアスやグループシンクのような現象が、マルチエージェントシステムでも発生する可能性が懸念されています。そういった懸念が現実のものであれば、重要な課題において、エージェントの判断の信頼性が損なわれる可能性があります。
これまでマルチエージェントシステムの性能向上に関する研究は数多く行われてきましたが、単一のエージェントでは起こらない問題が発生するのか、という根本的な疑問は未解明のままです。
そのような背景のもと、研究者らはLLMマルチエージェントシステムにおける同調性の存在、影響要因、緩和戦略について包括的な調査研究に取り組みました。また、その中で推論集約型のベンチマークを新たに構築し、異なる相互作用プロトコルのもとでLLMの振る舞いを検証しました。
以下で詳しく紹介します。
