AIDB Daily Papers
AIエージェントのスキルセキュリティ:脅威モデル、攻撃、防御、および評価
※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。
ポイント
- LLMエージェントの再利用可能なスキルにおけるライフサイクル全体を網羅したセキュリティ評価フレームワークを提案した。
- 従来のプロンプト注入対策を超え、リポジトリ登録から実行、進化に至るまでの広範な脅威分類体系を新たに構築した。
- 327個の現実的なスキルを用いた評価により、実行時以外の段階でも脆弱性が存在することを実証し、包括的な分析の重要性を示した。
Abstract
Reusable skills are becoming a fundamental building block of Large Language Model (LLM) agents, enabling capabilities to be packaged, shared, and reused across diverse applications. However, existing security research primarily focuses on prompt injection and runtime execution, leaving security risks throughout the broader skill lifecycle largely unexplored. In this paper, we present SkillSec-Eval, a lifecycle-aware framework for systematically evaluating the security of reusable agent skills. We first characterize the skill lifecycle and develop a threat taxonomy spanning repository admission, semantic retrieval, planner selection, execution, and skill evolution. We then instantiate this taxonomy in SkillSec-Eval and conduct a comprehensive empirical evaluation using a repository of 327 real-world skills. Our study demonstrates that vulnerabilities arise at multiple lifecycle stages beyond execution, highlighting the need for lifecycle-aware security analysis of reusable agent skills.
Paper AI Chat
この論文のPDF全文を対象にAIに質問できます。
質問の例: