次回の更新記事:AIコーディングエージェントのコスト構造を読み解く(公開予定日:2026年05月26日)
AIDB Daily Papers

AIの意図性は設計上の決定事項:説明責任あるAIのための機能的意図性の測定

原題: Intentionality is a Design Decision: Measuring Functional Intentionality for Accountable AI Systems
著者: Allessia Chiappetta, Robert Mahari
公開日: 2026-05-06 | 分野: AI 計画 意思決定 説明性 cs.AI AIエージェント AI安全性

※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。

ポイント

  • AIの自律的・長期的行動に対し、意図性の度合いを測る標準的な方法を提案する研究である。
  • 意図性を意識ではなく、目的、予見、自律性などの行動特性として定義し、設計によって制御可能であることを示す。
  • 機能的意図性テスト(FIT)により、AIの意図的行動を測定・評価し、説明責任と自律性のバランスを取る枠組みを提供する。

Abstract

As AI systems increasingly exhibit autonomous, goal-directed, and long-horizon behavior, users lack a standardized way to detect the degree to which a system functions like an intentional actor for governance and accountability purposes. This position paper defines intentionality not as consciousness, but as a behavioral profile characterized by purpose, foresight, volition, temporal commitment, and coherence - criteria long used in legal and philosophical contexts to infer intent. These properties are design-contingent: architectural choices such as memory persistence, planning depth, and tool autonomy shape the degree to which systems exhibit organized goal pursuit. If intentionality is design-contingent, it is in principle controllable. Yet control requires measurement. We introduce the Functional Intentionality Test (FIT), a multidimensional framework that quantifies intentional-like behavior across five observable dimensions, and propose FIT-Eval, a structured evaluation protocol for eliciting and scoring them. While reduced human agency can increase efficiency, rising intentional capacity heightens accountability risks. By translating intentionality into interpretable levels, FIT enables proportionate oversight and deliberate autonomy calibration in increasingly agentic systems.

Paper AI Chat

この論文のPDF全文を対象にAIに質問できます。

質問の例:

AIチャット機能を利用するには、ログインまたは会員登録(無料)が必要です。

会員登録 / ログイン

💬 ディスカッション

ディスカッションに参加するにはログインが必要です。

ログイン / アカウント作成 →

関連するAIDB記事