本記事では、LLMを実際のシステムに組み込んで使う際、どんな脅威に備えるべきか、防御策をどこに置くべきかを整理した研究を紹介します。

まず、LLMの使い方やシステムの構成によって、リスクの出方がどう変わるかを全体的に見ていきます。次に、脅威の深刻度や防御の優先度を考えるための視点をいくつか紹介します。

実務で検討を進めるうえでの足がかりになるような要点をまとめています。

背景

企業でもLLMの導入が加速しています。業務効率の向上や、顧客対応の質の改善、システムの刷新などを目的に、多くの組織がLLMの活用を始めています。

ただ、その広がりとともに新たな課題も出てきています。LLMは大量の情報を扱うため、プライバシーやセキュリティの懸念が高まっています。訓練データに含まれる個人情報や企業の内部データが、モデルの応答に現れてしまうこともあります。

LLMを使ったシステムでは、従来のソフトウェアと同様の脆弱性に加えて、LLM特有のリスクも抱えます。たとえば、開発で使うプラグインやAPIの設定ミスから、機密情報が漏れるケースがあります。

すでに商用サービスでも、依存するソフトウェアの不具合によって、ユーザーの個人情報が漏洩する事故が起きています。従来型の脆弱性が、LLMにもそのまま影響することがあります。

さらに、LLMならではの攻撃手法も確認されています。ゼロクリックで感染するワームや、動作を乗っ取るような攻撃も登場しています。機密情報の流出や、悪意ある生成のリスクも無視できません。

こうした脅威は多岐にわたるため、すべてに目を配るのは困難です。限られたリソースのなかで、どこに対策を集中すべきかを見極める必要があります。

そこで今回の記事では、LLMを活用するシステムにおける脅威と防御策を整理し、どのような場面で何が問題になるのかを体系的に分類しています。その知見をもとに、実務に役立つ視点を紹介していきます。