AIDB Daily Papers
HAS-Bench:人間とAIエージェントの協働システムを評価する新しいフレームワーク
※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。
ポイント
- 人間とAIエージェントを対等な参加者として定義し、役割や権限を構造化するグラフベースのフレームワークを開発した。
- 人間がどの程度介入すべきかを設定可能なベンチマークにより、タスクの成果と協働プロセスの両面を詳細に評価できる。
- 人間との協働がタスク達成率を大幅に向上させる一方、その効果は介入のタイミングや方法に強く依存することが判明した。
Abstract
Large language models increasingly operate in settings where humans are active collaborators rather than passive task providers. We introduce HAS-Framework, a graph-based framework that represents humans and LLM-powered agents as first-class participants with explicit roles, permissions, communication paths, and action authority. Building on this framework, HAS-Bench evaluates Human-Agent Systems under configurable human participation across agency levels, interaction channels, and persona policies. The benchmark measures both task outcomes and process-level collaboration behavior, including clarification quality, feedback utilization, control calibration, safety, initiative, and interaction cost. Experiments across six domains show that human participation can substantially improve task completion and failure recovery, but the gains depend on when, how, and by whom human input is exercised.
Paper AI Chat
この論文のPDF全文を対象にAIに質問できます。
質問の例: