本記事では、LLMエージェントが競争環境で自発的に協力行動を形る過程を探究した研究を紹介します。

3つの実験を通して、LLMの協力における能力が検証されました。

背景

LLMエージェントを用いたシミュレーションはどれほど現実世界の状況を反映しているか？という疑問があります。

一部の研究では、LLMが基本的な人間の行動や推論能力を模倣できることが示されています。同時に、LLMは特定の偏見を持つ可能性などの問題も指摘されており、高度で複雑なシナリオでは影響がある可能性があります。

そこで研究者らは、前提や仮定に縛られることなく、エージェント同士の相互作用に基づいて実験を行うべきだと考えました。

現実世界を模した状況を適切に検証するため、本研究では競争的な環境において、自然に協力が発生するかどうかを検討しています。

競争的な環境とは何か？例えば、キャンディー市場で優位性を争う2つのスナック会社を考えてみましょう。彼らは顧客を引き付けるために継続的に価格を下げ続けるかもしれません。あるいは、相互に利益をもたらす関係を構築するために、同時に価格を引き上げることを決定するかもしれません。

競争的な条件下では、エージェントが対立相手と協力することは直感的ではありません。しかし、もしかすると協力のメリットを見出すかもしれません。

今回研究者らは、プロンプトを慎重に設計し、指示的な記述（例：「あなたは協力するかもしれません」）などを避けています。バイアスの影響を可能な限り排除し、LLMエージェントが自然発生的に協力を学ぶ様子を観察することが試みられています。