本記事では、LLMが行う推論プロセスの効率性を向上させる新たな研究を紹介します。 プロンプト手法としても推論モデルの内部動作としてもよく使用されているCoTは、推論過程を詳しく書き出すため、正確性は高まるものの処理時間が … 続きを読む 推論時のトークン数を80%以上削減しながら出力精度を保つプロンプト手法の新提案