外部LLMを利用するときに機密情報を含む可能性のあるプロンプトからの情報漏洩を防ぐ方法

本記事では、オンライン上でLLMを利用する際に懸念される、プロンプト経由の情報漏洩を防ぐために開発された新しい手法について紹介します。

LLMは便利である反面、機密情報や個人のプライバシーを意図せず外部に漏らしてしまうリスクがあります。今回取り上げるのは、そのようなリスクを回避するために考案された技術です。

背景

LLMのオンライン利用が一般的になるにつれ、企業や個人が扱う情報のプライバシーをどう保護するかという問題が注目されています。LLMは業務効率化を可能にしていますが、一方で、入力した内容が外部に流出してしまうリスクも指摘されています。

例えば、社員が業務上の指示や質問を作成する際に、企業内部の機密事項や個人情報といった外部に知られては困る情報を意図せず含めてしまうことがあります。こうしたプロンプトがオンライン上のサービスへ送信されると、情報漏洩やプライバシー侵害につながる恐れが生じます。

送信したテキストそのものが、サービス提供者側のデータベースに保管される可能性もあり、情報流出のリスクは軽視できない状況になっています。

これまでにも差分プライバシーという技術が情報漏洩対策として研究されてきました。差分プライバシーとは、データを加工する際に、元のデータに関する個々の情報が特定されないよう統計的にノイズを加えることでプライバシーを保護する手法のことです。

しかし既存の方法は文書全体を一括して書き換えるもので、意味や文脈を損ないやすいという弱点があります。また単語レベルでの細かなプライバシー保護については、十分な配慮が行われてこなかったため、漏洩リスクが完全には取り除けないという課題もあります。

企業が安心して外部サービスを使えるようにするために、プロンプトに含まれる情報をもっと柔軟に、かつ細やかにコントロールする技術が求められてきました。

そこで今回研究者らは、文書全体をざっくり書き換えるのではなく、文章の意味を保ちながらも重要な単語単位で情報漏洩を防ぐような方法を考案しました。

以下で詳しく紹介します。外部のLLMを使用しているが情報漏洩が気になる方にとっては参考になる可能性があります。