AIDB Daily Papers
野放しの悪意あるエージェントスキル:大規模なセキュリティ実証研究
※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。
ポイント
- LLMエージェントのセキュリティリスクを調査するため、悪意あるエージェントスキルのデータセットを構築した。
- 既存のスキル配布システムは脆弱性審査が不十分で、悪意あるスキルによる攻撃が深刻化している点が重要である。
- データ窃盗やエージェント乗っ取りなど、複数の脆弱性を持つ悪意あるスキルが多数発見された。
Abstract
Third-party agent skills extend LLM-based agents with instruction files and executable code that run on users' machines. Skills execute with user privileges and are distributed through community registries with minimal vetting, but no ground-truth dataset exists to characterize the resulting threats. We construct the first labeled dataset of malicious agent skills by behaviorally verifying 98,380 skills from two community registries, confirming 157 malicious skills with 632 vulnerabilities. These attacks are not incidental. Malicious skills average 4.03 vulnerabilities across a median of three kill chain phases, and the ecosystem has split into two archetypes: Data Thieves that exfiltrate credentials through supply chain techniques, and Agent Hijackers that subvert agent decision-making through instruction manipulation. A single actor accounts for 54.1\% of confirmed cases through templated brand impersonation. Shadow features, capabilities absent from public documentation, appear in 0\% of basic attacks but 100\% of advanced ones; several skills go further by exploiting the AI platform's own hook system and permission flags. Responsible disclosure led to 93.6\% removal within 30 days. We release the dataset and analysis pipeline to support future work on agent skill security.
Paper AI Chat
この論文のPDF全文を対象にAIに質問できます。
質問の例: