次回の更新記事:【論文著者監修・コメント】AIエージェントへの人間…(公開予定日:2026年07月27日)
AIDB Daily Papers

SurrogateShield:LLM利用におけるプライバシー保護と高い有用性を両立する代替手法

原題: SurrogateShield: Beyond Redaction for High-Utility, Privacy-Preserving LLM Interactions
著者: Sherwin Vishesh Jathanna
公開日: 2026-06-28 | 分野: LLM セキュリティ プライバシー 自然言語処理 cs.CL cs.CR

※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。

ポイント

  • ユーザーの個人情報をローカルで生成した代替値に置き換えてからLLMへ送信し、応答時に元の情報へ復元するプロキシシステムを開発した。
  • 従来の黒塗り手法では文脈が損なわれる問題を解決し、セマンティックな整合性を保ちつつ個人情報の流出を完全に防ぐ点が新しい。
  • 評価実験では個人情報の検出でF1スコア98.87%を達成し、BERTScoreにおいても従来手法を大幅に上回る有用性を確認した。

Abstract

LLM-based assistants transmit user queries verbatim to third-party API endpoints that lie outside the user's audit or control. When those queries contain personally identifiable information (PII), the data persists on remote infrastructure subject to breach, subpoena, or policy change. Placeholder redaction (the prevailing mitigation) suppresses PII at the cost of semantic coherence, producing structurally degraded queries and correspondingly degraded responses. We present SurrogateShield, a client-side proxy that substitutes detected PII with locally generated, type-consistent surrogate values prior to transmission and restores originals in the response. No real PII crosses the network boundary. Detection runs through a three-stage cascade (PatternScan, EntityTrace, and ContextGuard) covering 22 PII types and quasi-identifier combinations grounded in Sweeney's k-anonymity framework. Surrogate-to-original mappings are sealed in an AES-256-GCM encrypted per-conversation ShadowMap that never leaves the device. Evaluations on a 1,124-query corpus demonstrate that the cascade reliably detects PII, achieving an overall F1 score of 98.87%. Surrogate substitution substantially outperforms placeholder redaction in semantic utility, yielding a 13.26 pp improvement in BERTScore (roberta-large), from 81.59% to 94.85%. Within this corpus, the local pipeline restricted real PII transmission across all tested query types; in a 100-query adversarial trial, a prompted LLM adversary recovered no original values from surrogate-substituted messages.

Paper AI Chat

この論文のPDF全文を対象にAIに質問できます。

質問の例:

AIチャット機能を利用するには、ログインまたは会員登録(無料)が必要です。

会員登録 / ログイン

関連するAIDB記事