自社資料をAIが“調査しながら読む”RAG

社内資料をAIに読ませて質問に答えさせるRAG。便利そうだと思って導入してみたものの、「欲しい情報に限って見つけてくれない」「関係ない文書ばかり読んで的外れな回答をする」という経験、ありませんか。

「それならClaude CodeやChatGPTに直接ファイルを渡せばいいのでは」と思う方もいるかもしれません。ただ、社外秘の契約書や顧客データ、製造ノウハウといった機密文書を外部のAIサービスに送ることに抵抗がある企業は少なくありません。

だから自社環境の中で完結するRAGの仕組みが必要になるわけですが、その肝心のRAGがうまく動かないのでは本末転倒です。原因はシンプルで、従来のRAGは検索の仕方が一本調子だからです。あらかじめ決まったやり方で文書を引っ張ってきて、まとめてAIに渡すだけ。検索がハズれたら、その時点でもう正解にはたどり着けません。どんなに賢いモデルを使っても、読む資料がズレていればどうしようもないです。

では、検索のやり方そのものをAIに任せたらどうなるか。

本記事では、この「AIが自分で調べ方を選ぶRAG」の事例を取り上げます。読み込むテキストの量は従来と同等かそれ以下なのに、回答精度は大きく向上したという結果が出ています。自社でRAGを組んでいる方、これから検討する方には、設計のヒントが詰まった内容です。