AIDB Daily Papers
格子上の連鎖適応再構成による大規模言語モデルの幻覚低減
※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。
ポイント
- CAROLは、生成された応答と信頼できる文脈との一貫性に基づく意味的曖昧さ尺度を定義し、幻覚を低減する新しいフレームワークである。
- この研究は、意味レベルで動作することで、幻覚の検出と軽減を単一のフレームワークに統合し、信頼性と解釈可能性を向上させる点で重要である。
- CAROLは、質問応答やマルチエージェント推論のベンチマークにおいて、既存手法と比較して幻覚を大幅に削減し、計算効率を維持する結果を示した。
Abstract
We introduce CAROL (Chain-based Adaptive Reconfiguration Over Lattices), a probabilistic framework for test-time hallucination reduction in large language models. Rather than relying on token-level uncertainty, CAROL defines a semantic uncertainty measure based on the consistency between generated responses and a trusted context, inducing a string-submodular objective over a lattice of textual sequences. This formulation enables hallucination mitigation to be cast as a Markov chain accept-reject process with provable convergence and near-optimality guarantees, allowing the model to iteratively refine outputs toward semantic consistency. By operating at the level of meaning, CAROL unifies hallucination detection and mitigation within a single framework. Empirical results on question answering and multi-agent reasoning benchmarks show that CAROL significantly reduces hallucinations and improves reliability and interpretability compared to likelihood-based and retrieval-augmented baselines, while maintaining competitive computational efficiency.
Paper AI Chat
この論文のPDF全文を対象にAIに質問できます。
質問の例: