顧客データやカルテなどの社内データをRAGに組み込み、業務を効率化しようとする動きが広がっています。RAGとは、社内文書や外部データベースから関連情報を検索し、その内容をもとにLLMが回答する仕組みです。
便利な一方で、ここには情報漏洩のリスクがあります。少し細工したプロンプトを送るだけで、知識ベースに含まれる個人情報が、原文に近い形で引き出されてしまう可能性があるためです。
対策は単純ではありません。漏洩を防ぐために機密箇所を削りすぎると、検索精度や回答の有用性が落ちます。安全性を高めるほど使いにくくなり、使いやすさを優先するほど守りが弱くなる。このトレードオフが、機密データを扱うRAGの難しさです。
この問題では、文章の書き換え方だけでなく、処理の分け方が重要になります。どの情報を検索に使い、どの情報をLLMに渡し、どの情報を記録として残すのか。実務で見るべきなのは、特定の手法を採用するかどうかではなく、この切り分けをどこまで設計できているかです。
