文字だけで学習したはずのLLMの内部に、色、音の高さ、味、感情といった人間の知覚・情動領域に対応する「地図のような幾何構造」が自然に現れると報告されています。
たとえば色は人間の色相環に近い円環構造として表れ、感情は快不快や覚醒度を中心とする情動空間に沿って配置されるなど、 感覚を直接教えられていないにもかかわらず、人間の感じ方に近い構造が浮かび上がっていました。
ただし、これはあくまで「人間の知覚構造と似た内部表現が見られる」という結果であり、なぜそうなるのかの仕組みはまだ未解明です。対象も4つの領域と限られたモデル群にとどまるため、これをもって「LLMが人間のように感じている」と読むのは行き過ぎです。
とはいえ、LLMの内部を「どの層で人間らしい知覚の地図が立ち上がるか」という観点から調べられる点は面白く、今後は他の感覚領域やモデルにも解析が広がることが期待されます。
