次回の更新記事:「AIっぽくて白ける」現象の正体(公開予定日:2026年05月01日)
AIDB Daily Papers

合議制モード:LLMにおけるハルシネーションとバイアスをマルチエージェントの合意形成で軽減

原題: Council Mode: Mitigating Hallucination and Bias in LLMs via Multi-Agent Consensus
著者: Shuai Wu, Xue Li, Yanna Feng, Yufang Li, Zhijun Wang
公開日: 2026-04-03 | 分野: LLM ベンチマーク 機械学習 AI 評価 マルチエージェント モデル 自然言語処理 アーキテクチャ バイアス ハルシネーション 合意

※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。

ポイント

  • 複数の異種LLMに並行して質問を送り、合意形成モデルで出力を統合する「合議制モード」を提案。
  • LLMのハルシネーションとバイアスは、不均一な専門家活性化によって増幅されるため、この問題への対処が重要。
  • HaluEvalで35.9%のハルシネーション削減、TruthfulQAで7.8ポイントの改善を達成し、バイアス分散も低減。

Abstract

Large Language Models (LLMs), particularly those employing Mixture-of-Experts (MoE) architectures, have achieved remarkable capabilities across diverse natural language processing tasks. However, these models frequently suffer from hallucinations -- generating plausible but factually incorrect content -- and exhibit systematic biases that are amplified by uneven expert activation during inference. In this paper, we propose the Council Mode, a novel multi-agent consensus framework that addresses these limitations by dispatching queries to multiple heterogeneous frontier LLMs in parallel and synthesizing their outputs through a dedicated consensus model. The Council pipeline operates in three phases: (1) an intelligent triage classifier that routes queries based on complexity, (2) parallel expert generation across architecturally diverse models, and (3) a structured consensus synthesis that explicitly identifies agreement, disagreement, and unique findings before producing the final response. We implement and evaluate this architecture within an open-source AI workspace. Our comprehensive evaluation across multiple benchmarks demonstrates that the Council Mode achieves a 35.9% relative reduction in hallucination rates on the HaluEval benchmark and a 7.8-point improvement on TruthfulQA compared to the best-performing individual model, while maintaining significantly lower bias variance across domains. We provide the mathematical formulation of the consensus mechanism, detail the system architecture, and present extensive empirical results with ablation studies.

Paper AI Chat

この論文のPDF全文を対象にAIに質問できます。

質問の例:

AIチャット機能を利用するには、ログインまたは会員登録(無料)が必要です。

会員登録 / ログイン

💬 ディスカッション

ディスカッションに参加するにはログインが必要です。

ログイン / アカウント作成 →

関連するAIDB記事