AIDB Daily Papers
T1-Bench: 現実世界の多様なシナリオにおけるAIエージェントの性能を評価するベンチマーク
※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。
ポイント
- 現実世界の多様なシナリオに対応するAIエージェントの性能を評価するための、高忠実度かつ包括的なベンチマーク「T1-Bench」を開発した。
- 既存のベンチマークが抱えるタスクの複雑性、現実性、ドメインの多様性の限界を克服し、複数ドメインにまたがる現実的な評価を可能にする点が重要である。
- 25のドメインにわたる複雑な対話シナリオにおいて、12のモデルを評価し、AIエージェントの行動、ツール利用、対話品質を標準化されたフレームワークで検証した。
Abstract
Recent advances in reasoning and tool-calling capabilities of large language models (LLMs) have enabled increasingly capable agentic systems. However, existing benchmarks remain limited in task complexity, realism, and domain diversity, and often fail to capture interactions that span multiple domains, limiting their ability to evaluate agents in realistic multi-step settings that require sustained reasoning and coordination. To address these limitations, we introduce T1-Bench, a high-fidelity, comprehensive benchmark for evaluating agentic systems in realistic customer-facing, multi-domain environments, featuring interleaved scenarios that require structured reasoning across multi-turn user-assistant interactions and substantially increasing both compositional complexity and evaluative rigor across 25 domains of varying difficulty. We evaluate T1-Bench using 12 proprietary and open-weight models, providing a reproducible and standardized framework for assessing agent behavior, tool utilization, and conversational quality in complex, multi-step environments. We further complement automatic evaluation with human judgments to strengthen the assessment of qualitative performance. Overall, T1-Bench substantially advances prior benchmarks by increasing task complexity, interaction depth, and domain coverage in simulated multi-domain environments. To facilitate future research on agentic systems, we will publicly release data and evaluation code as open source.
Paper AI Chat
この論文のPDF全文を対象にAIに質問できます。
質問の例: