本記事では、量子化がLLMに与える影響を調査した研究を紹介します。8億から103億パラメータの様々なLLMを対象に、日本語を含む20以上の言語で自動評価や人間評価が行われました。 研究の結果、量子化の影響は言語やタスクの … 続きを読む LLMに量子化が与える影響とは？日本語を含む多言語でCohereが調査