次回の更新記事:【論文著者監修・コメント】AIエージェントへの人間…(公開予定日:2026年07月27日)
AIDB Daily Papers

AIが自身のコードをレビューする危険性:コード生成LLMにおける再帰的自己学習の崩壊

原題: When AI Reviews Its Own Code: Recursive Self-Training Collapse in Code LLMs
著者: Xinyuan Song, Zekun Cai, Liang Zhao
公開日: 2026-06-26 | 分野: LLM ソフトウェアエンジニアリング コード生成 cs.AI cs.SE

※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。

ポイント

  • AI生成コードを再学習に用いる再帰的自己学習が、モデルの性能に与える影響を調査した。
  • レビューなし、人間によるフィルタリング、AIによる自己レビューの3手法を比較し、再帰的学習に伴うモデル崩壊のプロセスを明らかにした。
  • AIによる自己レビューは初期には有効に見えるが、最終的には品質低下を招くため、外部による検証が不可欠であることを示した。

Abstract

Recursive self-training can degrade neural generative models when generated data is reused without fresh human data or external quality control. We study this risk in code LLMs, where AI-generated code can enter real repositories, later become training data, and create a repository-scale self-training loop. While software development traditionally interrupts this loop through pull-request review, tests, compilation, and human approval, AI coding tools now produce code faster than humans can review it, and code review itself is increasingly automated by AI systems. We therefore compare three recursive fine-tuning regimes: no review, Human-gate review using model-independent filters such as compilation and static quality checks, and AI-self-gate review using the code LLM's own signals such as perplexity and binary self-scoring. Across multiple code LLMs and benchmarks, no review collapses fastest, Human-gate filters slow but do not stop collapse, and AI-self-gate filters can look strong early but later lose their filtering effect. In the clearest case, the binary self-gate enters a rubber-stamp regime where acceptance scores rise while benchmark correctness falls. We explain this behavior by formulating review as gated distributional reweighting, proving that AI self-gating degenerates to ungated self-training under a self-confirming acceptance condition, and giving a spectral analysis of representation-level covariance concentration under recursive retraining. These results suggest that stable recursive code LLM training requires exogenous verification rather than model-coupled self-review.

Paper AI Chat

この論文のPDF全文を対象にAIに質問できます。

質問の例:

AIチャット機能を利用するには、ログインまたは会員登録(無料)が必要です。

会員登録 / ログイン

関連するAIDB記事