最新の記事:科学は「研究」と「査読」両方が加速していく AIと…
「論文データベース(β版)」公開しました!新着論文を日本語で検索できます。ぜひご活用ください。 見てみる

10億人のペルソナ(人物像)で多様な合成データを作成するための技術

2024.07.10
深堀り解説

本記事ではペルソナ駆動型データ合成手法を紹介します。数学問題、論理的思考問題、指示、知識豊富なテキストなど、様々な分野で影響を与えるかもしれません。

10億の多様なペルソナを活用し、合成データの大規模な作成を行うPersona Hub(ペルソナハブ)に関するテクニカルレポートをもとに説明します。

参照論文(テクニカルレポート)情報

  • タイトル:Scaling Synthetic Data Creation with 1,000,000,000 Personas
  • 著者:Xin Chan, Xiaoyang Wang, Dian Yu, Haitao Mi, Dong Yu
  • 所属:Tencent

背景

LLMの開発や研究において、合成データの重要性が高まっています。必要なデータ量を効率的に確保すること、エッジケースに対応すること、プライバシーに配慮することなどが目的です。

しかし、大量の合成データを作成する際には、その多様性を確保することが課題となっています。

これまでの合成データ作成手法には主に2つのアプローチがあります。
1つ目は、既存のデータセットを基にして新しいインスタンスを作り出す「インスタンス駆動型」アプローチ。2つ目は、重要なポイントや概念のリストを用いて合成データを多様化させる「キーポイント駆動型」アプローチです。
しかし、上記の手法では合成データの作成を大規模に行うことが難しいという問題があります。

そこで今回新たに「ペルソナ駆動型」データ合成手法が考案されました。LLMに特定のペルソナ(人物像)を与えることで、そのペルソナの視点から多様な合成データを生成する手法です。

そして手法を実現するために「Persona Hub」と呼ばれる10億の多様なペルソナのコレクションが構築されました。多くの視点や知識にアクセスして大規模なデータを作成します。

本アプローチで数学の問題、論理的思考問題、ユーザーインストラクションプロンプト、知識豊富なテキスト、ゲームのNPC、ツール(関数)開発など、様々なシナリオでの合成データ作成が容易になると実験で示されました。

以下で詳しく紹介します。

プレミアム会員限定コンテンツです

無料会員でもできること

  • 一部記事の閲覧
  • 研究紹介短信ライブラリの基本機能
  • プロンプト管理ツールの利用

プレミアム会員の特典

  • 全過去記事の無制限閲覧
  • 専門家による最新リサーチ結果を記事で購読(平日毎日更新)
  • 日本語検索対応の新着AI論文データベース
  • 研究紹介短信ライブラリの高度な機能を開放
  • 記事内容質問AIを使用可能に
  • プロンプト管理ツールの無制限使用

記事検索

年/月/日
年/月/日

関連記事