LLMエージェントの認知バイアス

   
★AIDB会員限定Discordを開設いたしました! ログインの上、マイページをご覧ください。

★企業と人材のマッチングサービスを準備中です。アンケートのご協力をお願いいたします!↓

エージェントは非合理的な行動をとることもあります。今回研究者らは、LLMエージェントが人間の認知的なバイアスを模倣するのかどうか、そしてその上で社会的知能を発揮するかどうかを研究しています。社会科学的な実験を通じてエージェントの行動を評価する試みです。


AIDBの全記事が読み放題のプレミアム会員登録はこちらから↓

参照論文情報

  • タイトル:Exploring Prosocial Irrationality for LLM Agents: A Social Cognition View
  • 著者:Xuan Liu, Jie Zhang, Song Guo, Haoyang Shang, Chengxu Yang, Quanyan Zhu
  • 所属:HKPolyU, Cambridge University, NYU, WHUT, HKUST, SJTU

背景

問題解決、評価、シミュレーションなど様々な用途に対応するLLMベースのエージェントシステムの開発が活発に行われています。また、LLMエージェントの社会的能力を活用して、複数のエージェントが相互作用するマルチエージェントシステムにも期待が寄せられています。

そんな中、エージェント間の社会的ダイナミクスを明らかにする研究がいくつか行われています。例えばLLMが社会的目標を達成したり、社会的規範に従ったりすることが示されています。このようにLLMベースのエージェントシステムの動作メカニズムと人間の社会構造には類似点が多いと考えられており、探究が進められています。

エージェントの出力や行動が注目を集める一方で、内部メカニズムや認知プロセスの調査は不十分です。トレーニングデータに含まれる人間のバイアスがLLMエージェントの社会的知性に与える影響も明らかになっていません。

そこで研究者らは、人間社会に蔓延する認知バイアスに着目し、人間の認知バイアスとLLMエージェントの幻覚、非合理的な意思決定における類似性を探ることで、LLMエージェントが社会的知性を持つ根本的な理由を類推的に導き出すことを試みています。

本記事を読むにはAIDBのアカウントが必要です。


※ログイン/初回登録後、下記ボタンを押してください。







■サポートのお願い
AIDBを便利だと思っていただけた方に、任意の金額でサポートしていただけますと幸いです。






業界/カテゴリー

PAGE TOP