本記事では、LLMの安全性を自動的にチェックする「スキャナー」と呼ばれる新しい技術分野の包括的な分析をご紹介します。
富士通の研究チームは、Garak、Giskard、PyRIT、CyberSecEvalという4つの主要なオープンソースツールを詳細に調査し、それらの設計原理から実践的な性能評価まで体系的にまとめました。この調査は、まだ発展途上にあるLLMセキュリティ評価ツールの現状と課題を明らかにし、より効果的な活用に向けた指針を示しています。
背景
LLMの普及に伴い、人々の生産性は大きく向上しつつありますが、同時にLLMに起因するセキュリティ上の様々な脆弱性も明らかになってきました。例えば訓練データに内在するバイアスの問題や、悪意のあるプロンプトに対する脆弱性などが重要な課題です。
LLMの脆弱性研究は大きく2つの流れに分かれています。1つは脆弱性の種類や評価方法を体系的に整理する調査研究、もう1つはLLMの特定のセキュリティ上の弱点を深く掘り下げる研究です。
これらの基礎研究を踏まえ、最近では「レッドチーミング」というアプローチが重視されるようになってきました。レッドチーミングとは、実際の攻撃者になりすまして模擬攻撃を行い、システムの弱点を見つけ出す手法です。
LLMのセキュリティを高めるため、このレッドチーミングを自動化するツールが次々と開発されています。ツールの中でも、LLMの脆弱性を分析する「スキャナー」というツールが新しく登場し、注目を集めています。しかし、効果や信頼性、使い方に関する知識は十分に蓄積されていません。個々のスキャナーやレッドチーミングのベストプラクティスに関する報告は存在するものの、スキャナーを選択・導入する際の意思決定に役立つ実務報告は見当たらないのが現状です。
そこで今回研究者らは、LLMの脆弱性分析のためのスキャナーを網羅的に調査しました。以下は調査アプローチと調査結果です。まずは、「スキャナー」とは一体何か？という点からお伝えします。
