エージェントは非合理的な行動をとることもあります。今回研究者らは、LLMエージェントが人間の認知的なバイアスを模倣するのかどうか、そしてその上で社会的知能を発揮するかどうかを研究しています。社会科学的な実験を通じてエージェントの行動を評価する試みです。

重要なお知らせ：AI分野のお仕事マッチングサービス「AIDB HR」を開始しました！登録後はオファーを受け取るだけのシンプルなサービスです！現在、期間限定で、ギフト券が必ずもらえる新規登録キャンペーンも行っています。

背景

問題解決、評価、シミュレーションなど様々な用途に対応するLLMベースのエージェントシステムの開発が活発に行われています。また、LLMエージェントの社会的能力を活用して、複数のエージェントが相互作用するマルチエージェントシステムにも期待が寄せられています。

そんな中、エージェント間の社会的ダイナミクスを明らかにする研究がいくつか行われています。例えばLLMが社会的目標を達成したり、社会的規範に従ったりすることが示されています。このようにLLMベースのエージェントシステムの動作メカニズムと人間の社会構造には類似点が多いと考えられており、探究が進められています。

エージェントの出力や行動が注目を集める一方で、内部メカニズムや認知プロセスの調査は不十分です。トレーニングデータに含まれる人間のバイアスがLLMエージェントの社会的知性に与える影響も明らかになっていません。

そこで研究者らは、人間社会に蔓延する認知バイアスに着目し、人間の認知バイアスとLLMエージェントの幻覚、非合理的な意思決定における類似性を探ることで、LLMエージェントが社会的知性を持つ根本的な理由を類推的に導き出すことを試みています。