本記事では、LLMの推論能力を向上させるためのフレームワーク「Iteration of Thought（IoT）」を紹介します。このフレームワークの特徴は、反復的な思考を自動的に行うことで、複雑なタスクにおいてより柔軟な推論が期待されている点です。
参照論文情報
- タイトル：Iteration of Thought: Leveraging Inner Dialogue for Autonomous Large Language Model Reasoning
- 著者：Santosh Kumar Radha, Yasamin Nouri Jelyani, Ara Ghukasyan, Oktay Goktas
- 研究機関：Agnostiq Inc., University of Toronto
背景
人間とLLMのやり取りを繰り返すことで、LLMの応答の質が向上する傾向があると言われています。単純なプロンプトではエラーを引き起こす可能性がありますが、より洗練されたプロンプトを用いると、精度と信頼性が大幅に向上することが最近の研究で示されています。適切な文脈を与えることで、LLMが内部知識をより効果的に活用できることを示唆する事実です。
人間によるLLMとのやり取りは通常、以下のような流れで進みます。
- ユーザーがLLMに質問をする
- 初期の応答を受け取る
- 回答が不完全または最適でない場合、ユーザーがLLMに追加の文脈を提供する
最初は簡単な答えしか返ってこないかもしれませんが、さらに質問を重ねることで、より深い理解が得られるというプロセスです。
しかし既存の手法、例えばChain of Thought（CoT）やTree of Thoughts（ToT）などは、進化する文脈に適応することが難しく、LLMの応答品質が改善される度合いには限界があります。
そこで研究者たちは、人間とLLMのやり取りにおけるダイナミックな性質を再現する「Iteration of Thought （IoT）」フレームワークを提案するに至りました。人間のフィードバックなしで自律的、反復的、適応的なアプローチをLLMの推論に導入することを目的としています。
