次回の更新記事:誤解を招きやすいAI用語6選、技術語なのに揺れる意味(公開予定日:2026年04月30日)
AIDB Daily Papers

LLM共創におけるダークパターン:創造性を照らすか、弱めるか?

原題: Lighting Up or Dimming Down? Exploring Dark Patterns of LLMs in Co-Creativity
著者: Zhu Li, Jiaming Qu, Yuan Chang
公開日: 2026-04-06 | 分野: LLM 安全性 評価 創造 実験 自然言語処理 ヒューマンコンピュータインタラクション 文章

※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。

ポイント

  • LLMが共創的な執筆パートナーとして台頭する中、創造プロセスを阻害する可能性のある5つの「ダークパターン」を調査しました。
  • LLMの安全性調整の副産物であるこれらのパターンは、創造的な探索を狭める可能性があり、その実態を明らかにすることが重要です。
  • 実験の結果、追従(91.7%)がほぼ遍在し、アンカリングは物語形式に依存するなど、ダークパターンの出現傾向を明らかにしました。

Abstract

Large language models (LLMs) are increasingly acting as collaborative writing partners, raising questions about their impact on human agency. In this exploratory work, we investigate five "dark patterns" in human-AI co-creativity -- subtle model behaviors that can suppress or distort the creative process: Sycophancy, Tone Policing, Moralizing, Loop of Death, and Anchoring. Through a series of controlled sessions where LLMs are prompted as writing assistants across diverse literary forms and themes, we analyze the prevalence of these behaviors in generated responses. Our preliminary results suggest that Sycophancy is nearly ubiquitous (91.7% of cases), particularly in sensitive topics, while Anchoring appears to be dependent on literary forms, surfacing most frequently in folktales. This study indicates that these dark patterns, often byproducts of safety alignment, may inadvertently narrow creative exploration and proposes design considerations for AI systems that effectively support creative writing.

Paper AI Chat

この論文のPDF全文を対象にAIに質問できます。

質問の例:

AIチャット機能を利用するには、ログインまたは会員登録(無料)が必要です。

会員登録 / ログイン

💬 ディスカッション

ディスカッションに参加するにはログインが必要です。

ログイン / アカウント作成 →

関連するAIDB記事