AIDB Daily Papers
LLM駆動型プログラム進化における変異なき収束:その力学を解明
※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。
ポイント
- 大規模言語モデル(LLM)を用いたプログラムの変異連鎖を分析し、選択圧のない状況下での収束現象を調査した。
- LLMによる変異は、プログラム空間内の限定された領域へと一貫して収束し、特に構造レベルでの多様性が著しく制限されることが判明した。
- この構造的均質化はLLMの変異パイプラインに固有のものであり、LLM駆動型プログラム進化における開かれた探索の持続可能性に課題を投げかける。
Abstract
When an LLM repeatedly mutates a program, does it explore new forms or circle back to the same ones? We study this question by analyzing LLM-driven mutation chains in the absence of selection pressure within a domain-specific language, varying prompt design, model family, and stochastic replication. We find that LLM-based mutation consistently converges toward restricted attractor regions in program space. Convergence is especially severe at the structural level: in 87% of chains, over 93% of mutations revisit a previously seen structural form, with most variation confined to terminal substitutions within recurring templates. Cycle analysis reveals short cycles and self-loops dominating the transition structure. The rate of convergence varies with prompt wording and model choice, but the phenomenon is robust across conditions. A classical GP subtree mutation operator does not exhibit comparable convergence, suggesting that the effect is intrinsic to the LLM mutation pipeline. These findings reveal a tension at the heart of LLM-driven program evolution: the same capabilities that enable semantics-aware program transformation also carry a systematic bias toward structural homogeneity that must be accounted for if such systems are to sustain open-ended exploration. Source code is available at https://github.com/can-gurkan/lmca.
Paper AI Chat
この論文のPDF全文を対象にAIに質問できます。
質問の例: