LLMは複雑な推論において、流暢でも誤った答えを出すことがあります。
しかし「検証してから答える」だけで既存の高度な推論強化手法を上回る成果も報告されています。これは数学、プログラミング、エージェントの制御など、幅広い分野に応用が期待されています。
具体的にどういうことなのか詳しく紹介します。
背景
業務でLLMを活用する企業が増えています。そこで、複雑な問題を扱う際には、「ステップバイステップで考えて」といった指示がよく使われます。これは、問題を分解して段階的に考えさせる方法で、一般に高い精度が期待されるとされています。
ところが、実際に試してみると気づく課題があります。LLMは非常に自然で流れるような文章を出力する一方で、その内容が論理的に誤っていることが少なくありません。
こうした現象は「ハルシネーション」とも呼ばれます。原因は、LLMの出力が「もっともらしい単語の並び」を予測して生成されている点にあります。流暢さを優先する仕組みのため、筋の通った誤答が平然と出力されてしまうのです。
この問題に対処するため、さまざまな工夫が提案されてきました。詳細な指示文で誘導したり、同じ問題に複数回回答させて多数決をとったり、モデル自体を再学習させたりする方法です。
ただし、こうした手法には共通の悩みがあります。いずれも高いコストがかかるのです。特化プロンプトの作成には時間と知識が必要ですし、多数回の生成には大きな計算資源が必要です。追加学習となると、さらに高品質なデータと計算能力が求められます。
これまでLLMの推論を強化するには「コストがかかるのは当然」と考えられてきました。その前提に対し、今回まったく異なる視点から新たな方法を提示しています。
