AIDB Daily Papers
JobBench:AIエージェントの業務を人間の意図に沿って評価する新ベンチマーク
※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。
ポイント
- AIエージェントの業務遂行能力を評価するため、専門家が委任を優先する実務ワークフローに着目した「JobBench」を開発した。
- 経済的価値だけでなく、人間が実際に委任したいタスクを評価することで、AIによる人間の能力拡張を目指す点が重要である。
- 35職種130タスクを対象とした評価では、最高性能のモデルでも達成率が45.9%に留まり、AIエージェントの高度な推論能力が求められることが示された。
Abstract
Current benchmarks for occupational AI agents are scoped primarily by economic values, telling a replacement story. We introduce JobBench, which evaluates AI agents on the workflows that experts identify as high-priority for delegation, empowering humans based on their needs instead of replacing them with GDP value. JobBench covers 130 agentic tasks across 35 occupations. Each task is packaged as a workspace of heterogeneous reference files, requiring the agent to reason through the cluttered information streams of real professional work. Outputs are graded by a fact-anchored chain of rubrics, averaging 35.6 binary criteria per task. We evaluate 36 models; the strongest, Claude Opus~4.7 under Claude Code, reaches only 45.9 %. We hope JobBench shifts the community's target labour-market effect from replacement to enhancement: building agents that do what humans actually want delegated, not only what is most economically valuable.
Paper AI Chat
この論文のPDF全文を対象にAIに質問できます。
質問の例: