次回の更新記事:【論文著者監修・コメント】AIエージェントへの人間…(公開予定日:2026年07月27日)
AIDB Daily Papers

信頼して検証せよ?自律型コーディングエージェントが抱えるセキュリティ負債の解明

原題: Trust but Verify? Uncovering the Security Debt of Autonomous Coding Agents
著者: A H M Nazmus Sakib, Dipayan Banik, Murtuza Jadliwala
公開日: 2026-07-14 | 分野: セキュリティ ソフトウェアエンジニアリング コード生成 cs.CR AIエージェント AI安全性

※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。

ポイント

  • 自律型コーディングエージェントが生成するプルリクエストに含まれるセキュリティ上の欠陥を、大規模なデータセットを用いて体系的に分析した。
  • エージェントが生成したコードの約4割にセキュリティ上の問題があり、特にサプライチェーンや認証情報の管理に重大なリスクが存在することを明らかにした。
  • 人間とAIの協働プロセスにおいて、人間側の不注意による機密情報の漏洩が多く、既存のレビュー体制ではこれらを十分に検知できていないことが判明した。

Abstract

The increasing adoption of autonomous coding agents accelerates software development but also introduces scoped security risks within high-impact file paths that can outpace traditional human review capacity. While prior research has primarily evaluated these systems in terms of functional correctness and productivity, this paper presents a large-scale empirical study using the AIDev dataset to systematically characterize security code smells in agent-generated pull requests (PRs). Through a combination of a validated LLM-as-a-judge framework and manual qualitative analysis, we identify and classify security misconfigurations across 16,112 file changes spanning 4,022 pull requests. Our results reveal that 38.9% of agent-generated PRs contain at least one security smell, with supply chain integrity issues accounting for 82.3% of all detected security smells. Furthermore, hard-coded credentials constitute 99.6% of all critical-severity security smells. Crucially, we find that human collaborators are responsible for introducing 67.6% of genuine leaked secrets within these agent-assisted workflows, while existing automated and human review processes fail to detect 81.1% of these credentials prior to integration. These findings highlight substantial security risks in agent-assisted software development workflows and suggest a potential reduction in developer vigilance. They also underscore the urgent need for context-aware security guardrails implemented directly at the point of human-AI collaboration.

Paper AI Chat

この論文のPDF全文を対象にAIに質問できます。

質問の例:

AIチャット機能を利用するには、ログインまたは会員登録(無料)が必要です。

会員登録 / ログイン

関連するAIDB記事