次回の更新記事:AIエージェントの実力はハーネスで変わる(公開予定日:2026年06月01日)
AIDB Daily Papers

格子上の連鎖適応再構成による大規模言語モデルの幻覚低減

原題: Chain-based Adaptive Reconfiguration Over Lattices for Hallucination Reduction
著者: Joan Vendrell Gallart, Solmaz Kia, Russell Bent, Michael Grosskopf
公開日: 2026-05-26 | 分野: LLM cs.CL cs.IR 幻覚 AI安全性

※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。

ポイント

  • CAROLは、生成された応答と信頼できる文脈との一貫性に基づく意味的曖昧さ尺度を定義し、幻覚を低減する新しいフレームワークである。
  • この研究は、意味レベルで動作することで、幻覚の検出と軽減を単一のフレームワークに統合し、信頼性と解釈可能性を向上させる点で重要である。
  • CAROLは、質問応答やマルチエージェント推論のベンチマークにおいて、既存手法と比較して幻覚を大幅に削減し、計算効率を維持する結果を示した。

Abstract

We introduce CAROL (Chain-based Adaptive Reconfiguration Over Lattices), a probabilistic framework for test-time hallucination reduction in large language models. Rather than relying on token-level uncertainty, CAROL defines a semantic uncertainty measure based on the consistency between generated responses and a trusted context, inducing a string-submodular objective over a lattice of textual sequences. This formulation enables hallucination mitigation to be cast as a Markov chain accept-reject process with provable convergence and near-optimality guarantees, allowing the model to iteratively refine outputs toward semantic consistency. By operating at the level of meaning, CAROL unifies hallucination detection and mitigation within a single framework. Empirical results on question answering and multi-agent reasoning benchmarks show that CAROL significantly reduces hallucinations and improves reliability and interpretability compared to likelihood-based and retrieval-augmented baselines, while maintaining competitive computational efficiency.

Paper AI Chat

この論文のPDF全文を対象にAIに質問できます。

質問の例:

AIチャット機能を利用するには、ログインまたは会員登録(無料)が必要です。

会員登録 / ログイン

💬 ディスカッション

ディスカッションに参加するにはログインが必要です。

ログイン / アカウント作成 →

関連するAIDB記事