AIDB Daily Papers
論文を読むだけでコードを書き、社会科学の結果を再現するAIエージェント
※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。
ポイント
- 論文のメソッド記述とデータのみから、AIエージェントが社会科学の結果を再現するシステムを開発した。
- この研究は、AIが論文のコードや結果を見ずに再現できるかを探求し、その重要性と新規性を示した。
- 評価の結果、AIエージェントは多くの結果を再現できたが、モデルや論文によって性能にばらつきが見られた。
Abstract
Recent work has used LLM agents to reproduce empirical social science results with access to both the data and code. We broaden this scope by asking: Can they reproduce results given only a paper's methods description and original data? We develop an agentic reproduction system that extracts structured methods descriptions from papers, runs reimplementations under strict information isolation -- agents never see the original code, results, or paper -- and enables deterministic, cell-level comparison of reproduced outputs to the original results. An error attribution step traces discrepancies through the system chain to identify root causes. Evaluating four agent scaffolds and four LLMs on 48 papers with human-verified reproducibility, we find that agents can largely recover published results, but performance varies substantially between models, scaffolds, and papers. Root cause analysis reveals that failures stem both from agent errors and from underspecification in the papers themselves.
Paper AI Chat
この論文のPDF全文を対象にAIに質問できます。
質問の例: