次回の更新記事:MetaのLLM『Muse Spark 1.1』評価報告を読み解く。コ…(公開予定日:2026年07月13日)
AIDB Daily Papers

マルチステップLLMエージェントにおける評価環境が引き起こす信念の乖離の測定

原題: Measuring Harness-Induced Belief Divergence in Multi-Step LLM Agents
著者: Haiwen Yi, Xinyuan Song
公開日: 2026-07-05 | 分野: LLM ベンチマーク cs.AI AIエージェント AI評価

※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。

ポイント

  • エージェントの評価環境が、タスクやモデルが同一でもエージェントの意思決定プロセスに影響を与えることを明らかにした。
  • 評価環境の設計が単なる実装の詳細ではなく、エージェントの評価における重要な実験変数であることを示した点が新しい。
  • 評価環境の違いによる信念の乖離を測定する手法を提案し、環境設計がエージェントの判断に及ぼす影響を定量化した。

Abstract

Software-agent benchmarks usually report whether an agent solves a task, but the agent reaches that outcome through a harness that controls what it sees, which actions it can take, which failures are repaired, which states are verified, and which evidence is logged. We show that this harness can change the agent's multi-step beliefs even when the task, environment, and base LLM are fixed. We introduce a belief-rollout diagnostic that elicits structured K-step trajectories over progress, risk, recoverability, constraints, failure mode, uncertainty, future success, repair cost, and next action under alternative harnesses. We define a cross-harness belief divergence and decompose it into an arrival term for immediate interface shifts and a growth term for horizon-dependent belief changes. On controlled coding tasks and public-benchmark stress tests, blocked actions, compressed repairs, selective verification, and cost-aware evidence pruning often preserve terminal success while changing the beliefs that drive later decisions. We further introduce BIWM, a no-training protocol that canonicalizes observations, logs censored branches, expands repair traces, records verification masks, executes risky branches in shadow, and aligns belief trajectories across harness views. The results suggest that harness design is an experimental variable in agent evaluation, not an implementation detail. Our code is available at https://github.com/Hik289/Harness-induce-bias.git.

Paper AI Chat

この論文のPDF全文を対象にAIに質問できます。

質問の例:

AIチャット機能を利用するには、ログインまたは会員登録(無料)が必要です。

会員登録 / ログイン

関連するAIDB記事