LLMの共感能力向上で論理的思考が低下

LLMに調整を加えて「他人の心の内を正しく推測する能力」を大幅に改善させたところ、「感情を認識したり評価したりする能力」が大きく上昇する一方で、「論理的に質問したり収束的に考えたりする能力」はむしろ低下していたとのことです。

ジョンズ・ホプキンズ大学による研究報告。

研究者らがモデルに対し他人の視点をうまく理解できるように変更を施したところ、内部で活性化していたのは「論理的・分析的な思考プロセス」ではなく、「感情を処理するプロセス」でした。

LLMが他人の心を正しく理解するためには、冷静に論理的に推論するのではなく、感情的な文脈を理解することが鍵になっているということが示唆されています。

これは、実は人間の脳でも似たパターンが観察されています。人間が他人の心を理解するとき、「感情的な情報処理」と「認知的な情報処理」は同じ脳領域で行われており、互いに密接に結びついていると考えられています。
ただし、LLMについての結果から人間の脳の働きを直接証明しているわけではないことには注意。