AIDB Daily Papers
プライバシー保護型RAG:マルチエージェントによる意味書き換えで機密性を確保しつつ文脈忠実度を維持
※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。
ポイント
- 外部知識を取り込むRAGにおいて、機密情報漏洩リスクを低減するため、マルチエージェントによる意味書き換えフレームワークを提案した。
- 本研究は、3つの専門エージェントが協調して機密識別子を除去しつつ意味的中心を維持することで、プライバシー保護と文脈忠実度を両立させる点で重要である。
- 実験の結果、LLaMA-3-8Bにおける情報漏洩を大幅に削減し、既存手法を上回る文脈忠実度を達成した。
Abstract
Retrieval-Augmented Generation enhances large language models by incorporating external knowledge, but deploying it in sensitive scenarios risks privacy leakage via malicious prompts. To address this, we propose a multi-agent framework that sanitizes retrieved content through semantic rewriting. By employing three specialized agents for privacy extraction, semantic analysis, and reconstruction, our approach collaboratively removes sensitive identifiers while preserving the semantic core. We evaluate the framework on the ChatDoctor and Wiki-PII datasets across six large language models. Experimental results demonstrate a significant reduction in privacy leakage under targeted attacks. For instance, we reduced targeted information exposure in LLaMA-3-8B from 144 instances in the baseline to just 1. Furthermore, we maintain strong contextual fidelity with a BLEU-1 score of 0.122, outperforming the existing SAGE method's 0.117. Finally, the framework operates as an asynchronous preprocessing module, introducing no additional latency to online inference, as all rewriting is executed as a one-time offline preprocessing step. To promote reproducibility, the source code of this work is publicly available at https://github.com/foursoils/Privacy-Preserving-RAG.
Paper AI Chat
この論文のPDF全文を対象にAIに質問できます。
質問の例: