AIエージェントを狙うプロンプトインジェクションの実態　実社会12億ページ調査の結果

画面には表示されないHTMLコメント、ブラウザでゼロサイズに圧縮されたdivタグ、人間が読まないHTTPレスポンスヘッダー、サイトマップの片隅。こうした場所に、AIにだけ読まれることを意図した命令文がひっそり書き込まれているケースが増えています。

リサーチや要約をAIエージェントに任せたとき、結果が妙にずれている経験はないでしょうか。要約から戻ってきた文章にランダムな数字の羅列が混ざっていたり、特定の商品だけ過剰に持ち上げる一文が紛れていたり。原因を辿ると、ページの目に見えない場所に、AIに向けた指示文が置かれていたという報告が現実に出はじめました。

ウェブを読むのが人間だけだった時代は終わりつつあります。検索エージェント、調査エージェント、ブラウジング型のチャットボット。ウェブを取り込み、解釈し、要約し、判断するAIが日常業務に入るほど、サイト運営者の側でも反応が起きています。AIだけに届く層が、誰によって、どんな目的で、どこに作られているのか。本記事では、その実態を大規模な実証調査をもとに紹介します。