AIDB Daily Papers
信頼性と堅牢性を高めるLLM計画:記号フィードバックによる反復的自己改善フレームワーク
※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。
ポイント
- 長期的な意思決定タスクにおけるLLMの計画能力を向上させるため、記号フィードバックを用いた反復的な自己改善フレームワークを提案した。
- 論理記号を自然言語に変換して制約を明確化し、検証器がエラーを特定して修正指示を与える仕組みにより、LLMの推論精度を高めている。
- 実験の結果、提案手法は長期計画タスクにおいて実行可能性と正確性を一貫して向上させ、より信頼性の高いAIシステムの構築に貢献することを示した。
Abstract
Large language models (LLMs) have attracted widespread attention from academia and industry, yet their deployment raises critical security concerns regarding robustness and reliability. Planning, a core component of intelligent behavior, remains challenging for LLMs, which often produce infeasible or incorrect solutions in long-horizon decision-making tasks due to inherent complexity. In this paper, we propose a symbolic feedback-driven iterative self-refinement framework to enhance the robustness and reliability of LLMs in long-horizon planning. Specifically, a natural language prompting mechanism is introduced to map logical symbols into natural language descriptions, enabling LLMs to better capture task constraints and semantics. We further design a symbolic verifier that identifies errors and converts them into corrective instructions interpretable by the LLM, thereby guiding self-refinement. In addition, we leverage a plan recognizer to infer goal reachability, facilitating more effective guidance toward desired goals. Empirical results demonstrate that the proposed framework consistently improves both feasibility and correctness in long-horizon planning tasks. This highlights its effectiveness in enhancing the reliability of LLM-based planning and potential to enable more trustworthy AI systems.
Paper AI Chat
この論文のPDF全文を対象にAIに質問できます。
質問の例: