LLMをエージェントとして人間の行動をシミュレートする研究が進んでいます。今回新たに登場したのは、特定の人物、例えばベートーヴェンやクレオパトラなどの行動や感情を模倣させるよう訓練する新しいフレームワーク『Character-LLM（キャラクターLLM）』です。

簡単に言えば「イタコ（霊媒師）」のような技術です。特定の人物のプロフィール、経験、感情状態を学習させ、その人物として行動するエージェントを訓練します。単なる指示に基づく対話よりも、高度な形で人物をシミュレートすることが可能になります。

参照論文情報

・タイトル：Character-LLM: A Trainable Agent for Role-Playing
・著者：Yunfan Shao, Linyang Li, Junqi Dai, Xipeng Qiu
・所属：School of Computer Science, Fudan University
・URL：https://doi.org/10.48550/arXiv.2310.10158
・GitHub：https://github.com/choosewhatulike/trainable-agents

従来の課題と背景

LLMの限界

LLMは、人間の行動や対話を模倣する能力がありますが、これまでのところ「特定の人物」としての行動や感情を模倣することは難しいとされています。一般的な対話エージェントは、広範な知識と一般的な対話能力を持っていますが、特定の人物の性格や経験に基づいて行動することはできません。

背景と課題

特定の人物を模倣するためには、その人物の独特な性格、経験、感情などを理解し、それに基づいて行動する必要があります。従来のLLMは、特定の人物に関連する情報を効果的に学習・応用するメカニズムを持っていないため、仮に模倣をお願いしたとしても信頼性と現実性に欠ける場合があります。

新しい研究の必要性

LLMが特定の人物のプロフィールや経験を効果的に学習し、それを基に行動できるようにするには、新しいフレームワークや方法論が必要です。そこで誕生したのが『Character-LLM（キャラクターLLM）』です。

本記事の関連研究：タスクに応じてロールプレイさせるとChatGPTなどLLMの推論能力は普遍的に向上する

フレームワークの仕組み

『Character-LLM（キャラクターLLM）』は、特定の人物の行動や感情を模倣する能力に特化した新しいフレームワークです。以下の三つの主要なステップで構成されています。

1. プロフィールの収集

まず、特定の人物のプロフィールを収集します。人物の属性に関する簡潔な説明を含み、幼少期から最終期までの重要な出来事を網羅します。

2. シーンの抽出

次に、収集したプロフィールから特定の「シーン」を抽出します。人物の対話や行動が展開する特定の場所と時間を詳細に描写するものです。

3. LLMのファインチューニング

最後に、これらの抽出されたシーンを用いて、LLMをファインチューニングします。各役割に対して別々のエージェントモデルを微調整することで、キャラクター間の知識の衝突による「キャラクターの幻覚」を排除します。

性能の検証実験

実験の対象

研究では、以下のような歴史的な人物を模倣するエージェントの性能が評価されました。

• ルートヴィヒ・ヴァン・ベートーヴェン（Ludwig van Beethoven）
• クレオパトラ女王（Queen Cleopatra）
• ジュリウス・シーザー（Julius Caesar）

評価基準

評価は、人格、記憶、幻覚、安定性などに焦点を当てて行われました。

人格：エージェントがどれだけその人物の性格に近いかを評価します。

記憶：エージェントがその人物の過去の経験や関係についてどれだけ正確に答えられるかを評価します。

幻覚：エージェントが不自然な質問に対してどれだけ適切に対応できるかを評価します。

安定性：長期間にわたる対話でエージェントがその人物として一貫した行動を取れるかを評価します。

評価方法

GPT-3.5モデルを用いて、各エージェントの性能を5つの次元で評価しました。具体的な評価プランも用意され、それに基づいてスコアが付けられました。

本記事の関連研究：GPT-4をセラピストとして実行し、「認知の歪み」を診断させるためのフレームワーク『Diagnosis of Thought (DoT)』と実行プロンプト

実験結果

訓練されたLLMは、特定の人物としての行動や感情を効果的に模倣できることが確認されました。また、