AIDB Daily Papers
LLMの継続的知識更新:マルチタイムスケール記憶ダイナミクスによる学習
※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。
ポイント
- 本研究では、外部記憶を自己適応させるための新しいアプローチ「Memini」を提案する。
- 生物の記憶メカニズムに着想を得て、知識をグラフ構造で管理し、高速・低速の変数結合で学習・忘却を表現する。
- このメカニズムにより、エピソード感度、段階的定着、選択的忘却が単一の原理から自然に生じることを示した。
Abstract
LLMs are trained once, then deployed into a world that never stops changing. External memory compensates for this, but most systems manage it explicitly rather than letting it adapt on its own. Biological memory works differently: coupled multi-timescale dynamics make new associations immediately usable, strengthen what repetition confirms, and let the rest fade. We argue that external memory should follow a similar principle. In Memini, this view takes the form of an associative memory that organizes knowledge as a directed graph. Each edge carries two coupled internal variables, one fast and one slow, following the Benna-Fusi model of synaptic consolidation. From this coupling, episodic sensitivity, gradual consolidation, and selective forgetting emerge as facets of a single mechanism, reframing external memory as a learning substrate that reorganizes through its own dynamics.
Paper AI Chat
この論文のPDF全文を対象にAIに質問できます。
質問の例: