LLMの内部には、人間の脳のように「機能ごとにまとまった領域」が勝手にできあがっている、という研究が出ています。
そしてこの内部構造は、「人が文章を読んで理解しているときの脳の反応」を予測するのにも役立ちました。とくに、高度な情報処理を担う脳の部分でよく一致したとのことです。
脳科学の世界では、人間の脳を機能ごとの区画に地図化することで理解を進めてきました。研究者らはそれと同じ発想で、LLMの中にある無数の内部特徴を機能ごとのまとまりに整理する枠組みを作りました。
できあがったまとまりは意味的にも筋が通っていて、しかも違うモデルの間でもある程度は共通していたそうです。設計時に「ここはこの機能を担当」と決めたわけでもないのに自然とそうなっていた、と。
さらに、ハルシネーション、偏り、拒否ミス、おべっかといった代表的な失敗が、それぞれ別々のまとまりの”乱れ”として現れることも分かりました。
モデルの内部を見るだけで、どの失敗が起きかけているかを見分けて、狙って手を打てる可能性がある、ということです。
さらに冒頭にも述べた通り、AIを解剖するための道具が、そのまま人間の脳や意思決定の仕組みを探る手がかりにもなる部分が面白い。
AIの内部分析と人間の脳科学が交差するのは非常に興味深い瞬間のひとつです。
まだ学会などによる査読はされていないものの、多くの研究機関が参加しています。
