冒頭を聴く(高品質音声)約1分
速度:
全文の音声はプレミアム会員限定です。

LLMには「次に来るトークンを予測する」という基本能力があります。この能力は文章生成のためだけのものではなく、ファイル圧縮にそのまま使えます。予測が正確であるほど、データは小さく圧縮できるからです。
この性質をソースコードの圧縮で大規模に検証した研究が発表されました。30種類のLLMを比較し、定番の圧縮ツールとの差や、モデルごとの向き不向きが具体的な数字で示されています。
どういう仕組みで圧縮できるのか、どのくらい縮むのか、そして何に注意すべきなのか。編集部で実際に実装して確認した結果とあわせて紹介します。