10億人のペルソナ（人物像）で多様な合成データを作成するための技術

本記事ではペルソナ駆動型データ合成手法を紹介します。

LLMの開発や研究において、合成データの重要性が高まっています。必要なデータ量を効率的に確保すること、エッジケースに対応すること、プライバシーに配慮することなどが目的です。

しかし、大量の合成データを作成する際には、その多様性を確保することが課題となっています。

これまでの合成データ作成手法には主に2つのアプローチがあります。
1つ目は、既存のデータセットを基にして新しいインスタンスを作り出す「インスタンス駆動型」アプローチ。2つ目は、重要なポイントや概念のリストを用いて合成データを多様化させる「キーポイント駆動型」アプローチです。
しかし、上記の手法では合成データの作成を大規模に行うことが難しいという問題があります。

そこで今回新たに「ペルソナ駆動型」データ合成手法が考案されました。LLMに特定のペルソナ（人物像）を与えることで、そのペルソナの視点から多様な合成データを生成する手法です。

そして手法を実現するために10億の多様なペルソナのコレクションが構築されました。多くの視点や知識にアクセスして大規模なデータを作成します。

本アプローチで数学の問題、論理的思考問題、ユーザーインストラクションプロンプト、知識豊富なテキスト、ゲームのNPC、ツール(関数)開発など、様々なシナリオでの合成データ作成が容易になると実験で示されました。

以下で詳しく紹介します。