AIDB Daily Papers
委任された自律性の境界の特定:エージェント型AIにおける要件工学
※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。
ポイント
- エージェント型AIシステムにおける自律的な意思決定の境界を明確にする要件工学のフレームワークを提案した。
- 従来のプロンプトや実行時ポリシーに埋もれていた委任の境界を、要件レベルの決定事項として明示化する点が新しい。
- 医療調整とコードレビューの事例を通じて、安全かつ効果的なエージェント開発のための具体的な記述手法を示した。
Abstract
Agentic AI systems do not just predict or recommend; they plan, maintain state, and act in external environments with varying degrees of autonomy. This changes the requirements engineering problem in a specific and under-addressed way: it introduces what we call the delegated-autonomy boundary -- the set of decisions about what may be delegated to the system, under what graduated authority, with what oversight, and how control is returned. Current practices bury these decisions inside prompts, tool schemas, and runtime policies, even though they are requirements-level commitments. This paper proposes two complementary artifacts. First, an Agency Justification Record (AJR) helps teams decide when an agent is warranted over simpler alternatives. Second, an Agentic Delegation Policy (ADP) captures what must be specified for safe and effective development: purpose, authority, information, coordination, assurance, and evolution. Crucially, authority in the ADP is modelled as graduated, i.e., a tiered structure. We illustrate the framework with two contrasting examples: a safety-critical hospital discharge coordination agent and an automated code review agent.
Paper AI Chat
この論文のPDF全文を対象にAIに質問できます。
質問の例: