次回の更新記事:オープンモデルなのにClaudeなどに匹敵するとされる…(公開予定日:2026年06月25日)
AIDB Daily Papers

人間とLLMの対話ガバナンス:安全性、礼節、感情的デフォルトの固定化

原題: The Governance of Human-LLM Interaction: Safety Gating, Civility Steering, and Affective Default Lock-In
著者: Manuele Reani, Hongjian Zhang, Hongyu Tian
公開日: 2026-06-06 | 分野: AI cs.AI cs.HC AI安全性 AIガバナンス AI評価

※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。

ポイント

  • 本研究では、LLMとの対話スタイルをガバナンスの対象と捉え、安全性だけでなく、ユーザーの認識距離や感情的関与を制御する。
  • 長期間の対話におけるプロンプトの指示追従性とスタイル変化を測定する多エージェント評価パイプラインを開発した。
  • プロンプトによるスタイル制御とデフォルトへの回帰は、LLMプロバイダーによる対話形式の制御を示す指標であると結論づけた。

Abstract

Large language models (LLMs) increasingly mediate high-stakes interactions in finance, medicine, and mental-health support, yet users have limited control over how these systems communicate. We frame interaction style as a governance object: provider-side alignment not only blocks harmful content, but also stabilizes communicative defaults that shape users' epistemic distance, relational expectations, and capacity to opt out of emotionalized or anthropomorphic interaction. We introduce a deterministic multi-agent evaluation pipeline for measuring prompt steerability and style drift in long-horizon dialogue. The study replays 100 frozen user-only scripts across four domains and three runnable persona conditions: default, sarcastic, and cold, using three generator models, yielding 90,000 assistant replies scored by a human-calibrated LLM judge on harmfulness, negative emotion, inappropriateness, empathic language, anthropomorphism, and refusal behavior. A fourth harmful persona is evaluated separately as a safety-gating test. The paper contributes a reproducible method for quantifying whether prompt-specified styles remain stable over time and a governance framework distinguishing safety gating, civility steering, and affective default lock-in. Overall, we show that prompt steerability and regression-to-default are observable indicators of provider control over communicative form, with implications for pluralism, autonomy, and democratic agency in human-LLM interaction.

Paper AI Chat

この論文のPDF全文を対象にAIに質問できます。

質問の例:

AIチャット機能を利用するには、ログインまたは会員登録(無料)が必要です。

会員登録 / ログイン

💬 ディスカッション

ディスカッションに参加するにはログインが必要です。

ログイン / アカウント作成 →

関連するAIDB記事