AIDB Daily Papers
AIと人間の検証における順序依存性の必然性:認知バイアスに関する不可能性定理
※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。
ポイント
- 本研究では、自己回帰型言語モデルにおけるプライマシー効果やアンカリングといった認知バイアスが、順序情報処理の制約から構造的に必然であることを証明した。
- この研究は、認知バイアスを単なるエラーではなく、順序情報処理におけるリソース合理的な応答として捉え直す点で重要である。
- 実験により、アンカーの位置がバイアスの大きさを変調し、ワーキングメモリの負荷がプライマシー効果を増幅させることが確認された。
Abstract
Are certain cognitive biases mathematically inevitable consequences of sequential information processing? We prove that primacy effects, anchoring, and order-dependence are architecturally necessary in autoregressive language models due to causal masking constraints. Our three impossibility theorems establish: (1) primacy bias arises from asymmetric attention accumulation; (2) anchoring emerges from sequential conditioning with provable information bounds; and (3) exact debiasing by permutation marginalization requires factorial-time computation, with Monte Carlo approximation feasible at constant per-tolerance overhead. We validate these bounds across 12 frontier LLMs ($R^2 = 0.89$; $Δ$BIC $= 16.6$ vs. next-best alternative). We then derive quantitative predictions from the framework and test them in two pre-registered human experiments ($N = 464$ analyzed). Study 1 confirms anchor position modulates anchoring magnitude ($d = 0.52$, BF$_{10} = 847$). Study 2 shows working memory load amplifies primacy bias ($d = 0.41$, BF$_{10} = 156$), with WM capacity predicting bias reduction ($r = -.38$). These convergent findings reframe cognitive biases as resource-rational responses to sequential processing.
Paper AI Chat
この論文のPDF全文を対象にAIに質問できます。
質問の例: