AIDB Daily Papers
LLMにおける文化的規範と個人の嗜好のトレードオフ:PACTフレームワークによる解明
※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。
ポイント
- 本研究は、LLMが文化的規範と個人の嗜好のどちらを優先するかを評価するPACTフレームワークを提案した。
- LLMの行動は、国や指示チューニングの影響を受けるが、年齢や性別の影響は小さいことが明らかになった。
- 人間を対象とした研究では、文化内にも多様な意見が存在し、LLMは人間の応答分布や不確実性を捉えきれないことが示された。
Abstract
Large language models are increasingly used for social decision-making situations that require balancing cultural norms with personal preferences. For example, a user preferring honesty might ask whether to correct a coworker publicly when local norms favor indirect feedback. Yet existing research studies cultural alignment and personalization largely separately. We introduce PACT, the Personal-Preference and Cultural-Norm Trade-off framework, which evaluates whether models choose to follow a cultural norm or allow personal preferences. We find that LLMs vary in how rigidly they enforce cultural norms, with behavior shifted more by country context (7.8%) than age (1%) and gender (0.7%) and shifting non-uniformly after instruction tuning. Furthermore, our five-country human study on PACT shows that culture-following in humans is mainly driven by scenario country, with the lowest agreement when participants judge their own cultural contexts, showing within-culture pluralism. Finally, human-LLM alignment experiments show that models can match majority choices, but fail to capture response distributions and uncertainty (with best correlations reaching only 0.24). Together, these findings motivate alignment evaluations that go beyond majority to capture cultural pluralism and disagreement in social judgment.
Paper AI Chat
この論文のPDF全文を対象にAIに質問できます。
質問の例: