次回の更新記事:【論文著者監修・コメント】AIエージェントへの人間…(公開予定日:2026年07月27日)
AIDB Daily Papers

AIエージェントの行動に対する診断フレームワーク

原題: A Diagnostic Framework for AI Agent Behavior
著者: Xichen Zhang, Yingjie Zhang, Tianshu Sun
公開日: 2026-07-19 | 分野: AI cs.AI AIエージェント AI安全性 AIガバナンス AI評価

※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。

ポイント

  • AIエージェントの行動特性を原因レベルから特定するための階層的診断フレームワークを提案した。
  • 行動の発生源を基礎的な計算レイヤーと社会的制約などの変調レイヤーに分離した点が新しい。
  • 適切なガバナンスや検証を行うためには、介入前に行動の起源を特定することが不可欠であると示した。

Abstract

AI agents increasingly act within the same clinical, political, scientific, and social systems that behavioral scientists study. Evaluating these systems requires source-level diagnosis: the same behavioral pattern may arise from an agent representational substrate or from the roles, objectives, interaction structures, and governance rules that shape its expression. This Perspective proposes a diagnostic framework for AI agent behavior: layer attribution. The foundational computational layer defines what behaviors are possible through architecture, memory, perception, attention, and representation. The behavioral modulation layer shapes how those capacities are expressed through identity, resources, objectives, social interaction, institutional constraints, and governance. The framework clarifies three consequences: surrogate validity is a model-task-layer relation, human-AI divergence provides diagnostic evidence, and governance requires source attribution before intervention. Treating AI agents as behavioral actors therefore requires evaluation methods that determine where behavior originates before deciding how to explain, validate, or govern it.

Paper AI Chat

この論文のPDF全文を対象にAIに質問できます。

質問の例:

AIチャット機能を利用するには、ログインまたは会員登録(無料)が必要です。

会員登録 / ログイン

関連するAIDB記事