AIDB Daily Papers
パーソナルホームベンチ:パーソナライズされたスマートホームにおけるエージェント評価
※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。
ポイント
- パーソナライズされたスマートホーム環境でAIエージェントを評価するためのベンチマーク「PersonalHomeBench」を開発した。
- この研究は、複雑で個別化された環境におけるAIエージェントの能力を評価する新たな基準を提供し、その重要性と新規性を示している。
- 実験の結果、タスクの複雑性が増すと性能が低下し、特に反実仮想推論や部分的な観測下での失敗が顕著であることが明らかになった。
Abstract
Agentic AI systems are rapidly advancing toward real-world applications, yet their readiness in complex and personalized environments remains insufficiently characterized. To address this gap, we introduce PersonalHomeBench, a benchmark for evaluating foundation models as agentic assistants in personalized smart home environments. The benchmark is constructed through an iterative process that progressively builds rich household states, which are then used to generate personalized, context-dependent tasks. To support realistic agent-environment interaction, we provide PersonalHomeTools, a comprehensive toolbox enabling household information retrieval, appliance control, and situational understanding. PersonalHomeBench evaluates both reactive and proactive agentic abilities under unimodal and multimodal observations. Thorough experimentation reveals a systematic performance reduction as task complexity increases, with pronounced failures in counterfactual reasoning and under partial observability, where effective tool-based information gathering is required. These results position PersonalHomeBench as a rigorous evaluation platform for analyzing the robustness and limitations of personalized agentic reasoning and planning.
Paper AI Chat
この論文のPDF全文を対象にAIに質問できます。
質問の例: