次回の更新記事:AIが視覚と心の関係を解読(公開予定日:2026年05月11日)
AIDB Daily Papers

LLMにおける社会的役割の粒度を測る「粒度軸」を発見:個人の経験から組織的思考まで

原題: The Granularity Axis: A Micro-to-Macro Latent Direction for Social Roles in Language Models
著者: Chonghan Qin, Xiachong Feng, Ziyun Song, Xiaocheng Feng, Jing Xiong, Lingpeng Kong
公開日: 2026-05-07 | 分野: LLM 解釈性 AI 自然言語処理 説明性 大規模言語モデル cs.CL cs.AI

※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。

ポイント

  • 大規模言語モデルが、個人の経験から組織的思考までの「粒度」を内部表現としてエンコードしていることを「粒度軸」として定量化した。
  • この粒度軸は、LLMの社会的役割表現において最も支配的な幾何学的軸であり、75の社会的役割と91,200の応答データで検証された。
  • 粒度軸に沿った操作により、応答の粒度を因果的に変化させることが可能であり、LLMの振る舞いの構造化された側面を示唆する。

Abstract

Large language models (LLMs) are routinely prompted to take on social roles ranging from individuals to institutions, yet it remains unclear whether their internal representations encode the granularity of such roles, from micro-level individual experience to macro-level organizational, institutional, or national reasoning. We show that they do. We define a contrast-based Granularity Axis as the difference between mean macro- and micro-role hidden states. In Qwen3-8B, this axis aligns with the principal axis (PC1) of the role representation space at cosine 0.972 and accounts for 52.6% of its variance, indicating that granularity is the dominant geometric axis organizing prompted social roles. We construct 75 social roles across five granularity levels and collect 91,200 role-conditioned responses over shared questions and prompt variants, then extract role-level hidden states and project them onto the axis. Role projections increase monotonically across all five levels, remain stable across layers, prompt variants, endpoint definitions, held-out splits, and score-filtered subsets, and transfer to Llama-3.1-8B-Instruct. The axis is also causally relevant: activation steering along it shifts response granularity in the predicted direction, with Llama moving from 2.00 to 3.17 on a five-point macro scale under positive steering on prompts that admit local responses. The two models differ in controllability, suggesting that steering depends on each model's default operating regime. Overall, our findings suggest that social role granularity is not merely a stylistic surface feature, but a structured, ordered, and causally manipulable latent direction in role-conditioned language model behavior.

Paper AI Chat

この論文のPDF全文を対象にAIに質問できます。

質問の例:

AIチャット機能を利用するには、ログインまたは会員登録(無料)が必要です。

会員登録 / ログイン

💬 ディスカッション

ディスカッションに参加するにはログインが必要です。

ログイン / アカウント作成 →

関連するAIDB記事