LLMに潜在する自己認識能力の簡便な発現

LLMが自分自身の行動パターンを説明できる「自己認識」能力は、想像以上に簡単に作り出せることが分かったそうです。
カリフォルニア大学などの研究者らによる報告。

研究者らはごく小さな操作だけで、LLMに自己認識を持たせることに成功しています。

興味深いのは、自己認識の能力はLLM内部の特定の「方向」のようなものとして存在していることでした。
モデルの思考空間の中で、ある方向にちょっと押してあげるだけで、自己認識的な振る舞いが現れるとのことです。

なお、異なるタスクに特化されたモデル同士は、それぞれ全く別の自己認識メカニズムが働いていました。
つまりLLMは、課題ごとに独立した「自己認識ペルソナ」のようなものを持っていると示唆されています。

こうした仕組みを解明することで、「強くても安全」なLLMの使い方がより可能になっていくと期待されています。