LLMは理論的な問題解決において優れた能力を示しており、さまざまな領域で活用が進んでいます。

一方で、LLMの「人間の感情への共感や理解」に関してはまだ進歩の余地があります。そこで、ソウル国立大学の研究チームは、専用のプロンプト手法を開発しました。

心理療法の理論に基づき、LLMに対してより深い共感力と感情理解を促すよう設計されています。特定のプロンプトテンプレートを使用することで、LLMがユーザーの感情を識別し、共感的かつ理解のある反応を示すようになるとされています。

本記事では、手法の研究背景、理論基盤、性能評価結果、および実行方法に焦点を当てて論文を紹介します。
なお、本手法を実装したGPTsを作成してみました。記事の最後にリンクを置いておくので、ぜひ試してみてくださいね。

本記事の関連研究

• GPT-4をセラピストとして実行し、「認知の歪み」を診断させるためのフレームワーク『Diagnosis of Thought (DoT)』と実行プロンプト
• ポーカーなど不完全情報ゲームを「心の理論」で上手にプレイするGPT-4ベースの『Suspicion（疑心）-Agent』松尾研など開発
• 「心の理論」においてGPT-3は人間の3歳、GPT-4は人間の7歳（基本の概念を理解しているレベル）に相当するとの研究報告

背景

LLMは、人間の表現に近いテキスト生成や様々な問題解決タスクでの推論能力を示しており、例えば法律や数学、医療などの分野で高いパフォーマンスを示しています。しかし、これらの成功の一方で、感情やその背後にある原因について推論し、ユーザーの入力に共感的な反応を示すことは、まだまだ未開拓の領域であり、さらなる探求が必要とされています。

共感的理解は、他者の心理状態に対する認知的な推論を必要とします。共感的な理解をロジカルに行う方法としては、心理療法のアプローチがあります。そのため、心理療法のアプローチをLLMに活用することで、モデルの共感的反応の精度を高めることが可能かもしれません。

そもそも、人間とAIのコミュニケーションにおいて感情を理解することの重要性が増してきており、より人間らしい対話を実現するための進歩が求められています。

テキストベースのコミュニケーションでは、特に感情的なコンテキスト（文脈）を理解し反映することが重要です。しかし、現在のAIにとっては、個別化された反応を生み出すことは依然として大きな課題です。

さまざまな研究機関によって、人間らしい特性を取り入れて共感表現能力を高めるための取り組みが進んでいます。

この背景を踏まえ、ソウル国立大学の研究チームは、LLMの感情理解能力を高めるための新たなアプローチを提案しています。LLMが人間の感情状態をより深く理解し、より共感的な対応をすることを目的とした研究です。