AIDB Daily Papers
AIエージェントの行動に対する診断フレームワーク
※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。
ポイント
- AIエージェントの行動特性を原因レベルから特定するための階層的診断フレームワークを提案した。
- 行動の発生源を基礎的な計算レイヤーと社会的制約などの変調レイヤーに分離した点が新しい。
- 適切なガバナンスや検証を行うためには、介入前に行動の起源を特定することが不可欠であると示した。
Abstract
AI agents increasingly act within the same clinical, political, scientific, and social systems that behavioral scientists study. Evaluating these systems requires source-level diagnosis: the same behavioral pattern may arise from an agent representational substrate or from the roles, objectives, interaction structures, and governance rules that shape its expression. This Perspective proposes a diagnostic framework for AI agent behavior: layer attribution. The foundational computational layer defines what behaviors are possible through architecture, memory, perception, attention, and representation. The behavioral modulation layer shapes how those capacities are expressed through identity, resources, objectives, social interaction, institutional constraints, and governance. The framework clarifies three consequences: surrogate validity is a model-task-layer relation, human-AI divergence provides diagnostic evidence, and governance requires source attribution before intervention. Treating AI agents as behavioral actors therefore requires evaluation methods that determine where behavior originates before deciding how to explain, validate, or govern it.
Paper AI Chat
この論文のPDF全文を対象にAIに質問できます。
質問の例: