次回の更新記事:既存のベンチマークテストは信頼できるのか?LLM評価…(公開予定日:2025年02月11日)

ファインチューニングがLLMの幻覚(ハルシネーション)に与える影響 Googleなどによる検証結果

   

LLMをファインチューニングしたとき、幻覚(ハルシネーション)誤った情報の生成にはどう影響するのかが調査されました。指示に従うタスクや人間のフィードバックを通じて、望ましい行動をとるように調整することを「微調整」または「ファインチューニング」と呼びます。

参照論文情報

  • タイトル:Does Fine-Tuning LLMs on New Knowledge Encourage Hallucinations?
  • 著者:Zorik Gekhman, Gal Yona, Roee Aharoni, Matan Eyal, Amir Feder, Roi Reichart, Jonathan Herzig
  • 所属:Technion – Israel Institute of Technology, Google Research

背景

モデルは微調整中に新しい事実に遭遇することがあります。そして、新しい知識に触れることが、いわゆる「ハルシネーション」を引き起こす可能性があると考えられています。モデルが事実とは異なる誤った応答を生成する現象です。
事前学習においては知識を効果的に利用する方法を学びますが、微調整を通じて新しい知識を取得するのは難しいのではないかと議論されていますが、明確な答えは出ていません。

そこで今回研究者らは、新しい知識がLLMの性能に与える影響を詳細に調査することにしました。

当サイトの利用にはAIDBのアカウントが必要です。
また記事の購読には、アカウント作成後の決済が必要です。



※ログイン/初回登録後、下記ボタンを押してください。

AIDBとは
プレミアム会員(記事の購読)について

■AIDBからのお知らせ
AIの仕事、どうやって探せばいいんだろう?AIDBがそんな皆のためにサービスを運営中。

■サポートのお願い
AIDBを便利だと思っていただけた方に、任意の金額でサポートしていただけますと幸いです。


AIDBとは


重要なAI論文にわかりやすい記事でキャッチアップできるサービスです。2019年から運営しています。

AIDBのネットワークを活かして仕事をしよう

登録フォームを表示する
PAGE TOP