次回の更新記事:オープンモデルなのにClaudeなどに匹敵するとされる…(公開予定日:2026年06月25日)
AIDB Daily Papers

GitInject:AI搭載CI/CDパイプラインにおける現実世界のプロンプトインジェクション攻撃

原題: GitInject: Real-World Prompt Injection Attacks in AI-Powered CI/CD Pipelines
著者: Jafar Isbarov, Umid Suleymanov, Ilia Shumailov, Murat Kantarcioglu
公開日: 2026-06-07 | 分野: AI GitHub cs.AI cs.CR AIエージェント AI安全性

※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。

ポイント

  • AIエージェントがCI/CDパイプラインに組み込まれ、信頼できないコンテンツを処理する際のプロンプトインジェクション脆弱性を評価するフレームワークを開発した。
  • 本研究は、実際のGitHubワークフローで攻撃をシミュレーションし、AIプロバイダーがデフォルト設定で攻撃に脆弱であることを発見した点が重要である。
  • 設定ファイル注入や認証情報漏洩など11種類の攻撃を発見し、構造的な脆弱性がモデルの挙動よりも重要であることが明らかとなった。

Abstract

AI-powered agents are increasingly embedded in continuous integration and continuous delivery/deployment (CI/CD) pipelines to autonomously review pull requests (PRs), triage issues, and maintain codebases. These agents ingest untrusted content while operating with elevated repository permissions, making them a natural target for prompt injection attacks with supply chain consequences. We present GitInject, an open-source framework for evaluating prompt injection vulnerabilities in real, live GitHub workflows, a widely deployed instance of CI/CD pipelines. Unlike prior agent security benchmarks that simulate tool calls, GitInject provisions ephemeral repositories and triggers actual workflow runs, so that sandbox constraints, credential handling, and permission boundaries behave exactly as in production. Using GitInject, we study workflow configurations across four AI providers and document eleven named attacks spanning config-file injection, credential exfiltration, judgment manipulation, and availability. We find that all tested providers are susceptible to at least one attack class in their default configuration, and that the most critical vulnerabilities are structural: they arise from how CI/CD infrastructure handles credentials and configuration files, not from any specific model's behavior. For each confirmed attack class, we identify the minimum-cost workflow-level countermeasure and analyze its coverage and limitations. GitInject is released publicly to facilitate further research in this direction.

Paper AI Chat

この論文のPDF全文を対象にAIに質問できます。

質問の例:

AIチャット機能を利用するには、ログインまたは会員登録(無料)が必要です。

会員登録 / ログイン

💬 ディスカッション

ディスカッションに参加するにはログインが必要です。

ログイン / アカウント作成 →

関連するAIDB記事