スマホでLLMファインチューニング MobileFineTuner

スマートフォン上でLLMのファインチューニングを実行できる技術フレームワークを開発したと報告されています。

ポケットに収まる大きさのモバイル端末で手軽にAIを育てられるのは新しいパラダイムかもしれません。

実際にGoogle PixelのスマートフォンでGemmaやQwenモデルの ファインチューニングに成功しており、サーバーで学習する時と概ね同等の指標が得られたそうです。

スマートフォンはメモリ容量やバッテリーが限られているため、モデルのパラメーターを小分けにしてストレージに保存したり、バッテリー残量に応じて計算頻度を調整する工夫も取り入れられているとのことです。