LLMにおける通説への提言

今回研究者たちは、LLMに関する”一般的な主張”を批判的に検討してまとめています。LLMの定義、特性、影響力について分析を行い、多くの主張がもしかすると十分な根拠を欠いている可能性があることを指摘しています。

ICML2024で採択された論文です。

背景

LLMに関する議論の多くは、明確な定義や十分な根拠のない主張に基づいて行われていることが懸念されています。

例えば、そもそもLLMの定義自体が曖昧であると考えられています。LLMという用語は広く使用されていますが、その正確な意味については共通理解が得られていない状況です。

また、LLMの機能や特性に関する一般的な主張の多くが、十分な検証なしに繰り返し述べられていることも問題視されています。例えば、LLMの堅牢性や最先端の性能、スケーリングの重要性などについての主張が、必ずしも厳密な証拠に基づいていない可能性があるといいます。

このような状況は、LLMに関する誤った認識を広めたり、研究の方向性を偏らせたりする危険性があります。特に、商業的な利益のために形成されたイメージが無批判に受け入れられることで、一般の人々や研究者自身が誤解を招く可能性が懸念されています。

今回、LLMに関する主要な用語や主張について、より正確で厳密な定義や検証の必要性が主張されています。そしてLLMの定義を提案し、LLMの機能に関する5つの一般的な主張を批判的に検討することが試みられています。

以下で詳しく紹介します。