本記事では、LLMに心の動きのようなものを定義し、思考プロセスを透明化するための手法を紹介します。

LLMは、時として論理的な矛盾を抱えたり、なぜその答えに至ったのかが不透明だったりすることがあります。そこで今回の手法は、LLMの「頭の中」を整理された知識（オントロジー）として記述することで、こうした課題を解決しようとしています。

背景

業務でLLMを使っていると、「答えはそれっぽいけれど、なぜそう判断したのか理由がわからない」「論理的な一貫性がなく、たまに嘘をつく」といった不安を感じることはありませんか。これは、今のLLMが抱える「ブラックボックス問題」と呼ばれる大きな課題です。

この問題を解決するために、今、世界中の研究者が注目しているのが「ニューロシンボリックAI」というアプローチです。少し専門的な言葉ですが、要するに、今のAIが得意とする「確率的な推論」と、昔ながらのコンピュータが得意とする「厳密な論理ルール」をいいとこ取りしようという試みです。確率でふわっと考えるだけでなく、ルールに従って論理的に考える仕組みを合体させれば、AIはもっと信頼できるパートナーになるはずです。

もしLLMが「今の私の信念はこうで、願望はこれだから、この回答を生成する意図を持ちました」と説明できれば、AIの思考プロセスは透明になります。

そこで今回着目されたのが、「BDI」という考え方です。これは「信念」「願望」「意図」の頭文字を取ったもので、人間やAIエージェントがどうやって合理的に行動するかをモデル化したものです。たとえば、「外は雨だという『信念』」と「濡れたくないという『願望』」があるから、「傘を持っていくという『意図』」が生まれる、といった具合に、行動の理由を分解して整理するフレームワークです。

下記では、このフレームワークを活用してLLMは自分の「頭の中」にある信念や意図を、あやふやな言葉ではなく、システムが理解できる構造化されたデータとして整理するための具体的な手法を紹介します。