本記事では、LLMの推論精度と計算コストを同時に改善するプロンプト手法を紹介します。
LLMを業務に活用する際、多くの人は「いかに良いプロンプトを書くか」に注力します。
しかし、じつは現在主流となっている使い方には、ある構造的な非効率が潜んでいます。そしてその非効率を解消するだけで、追加学習なしに精度向上とコスト削減を両立できる可能性があるというのです。
背景
LLMは今や、さまざまな業務で使われるようになりました。ただ、LLMには厄介なクセがあります。間違っていても自信満々に答えてしまうのです。医療や金融のように「間違えたらマズい」場面では、これがけっこう困りものです。
さらに研究者らは、現在主流となっているLLMの使い方には、まだ見過ごされている「もったいなさ」があると指摘します。言われてみれば確かに、という類のものですが、多くの人が気づいていない盲点です。
本記事では、その盲点を突くことでLLMの精度とコスト効率を同時に改善したプロンプト手法を紹介します。