次回の更新記事:AIカウンセラーは「経験から学ぶ」段階に入った(公開予定日:2026年04月06日)
AIDB Daily Papers

会話の支配者は誰?生成AI(LLM)システムプロンプトに対するユーザーの視点

原題: Who Controls the Conversation? User Perspectives On Generative AI (LLM) System Prompts
著者: Anna Neumann, Yulu Pi, Jatinder Singh
公開日: 2026-02-16 | 分野: LLM 安全性 解釈性 人間 デザイン AI

※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。

ポイント

  • 本研究では、生成AIの挙動を決定するシステムプロンプトに着目し、その影響とユーザーの認識を調査した。
  • システムプロンプトはAIの挙動を大きく左右するが、多くの場合非公開であり、ユーザーはAIとのインタラクションを制御できない点が課題である。
  • ユーザー調査の結果、システムプロンプトの透明性と制御に対する要望が明らかになり、設計とガバナンスへの考慮事項が示唆された。

Abstract

System prompts - instructions that shape the behaviour of generative AI systems - strongly influence system outputs and users' experiences. They define the model's guidelines, `personality', and guardrails, taking precedence over user inputs. Despite their influence, transparency is limited: system prompts are generally not made public and most platforms instruct models to conceal them, leaving users disconnected from and unaware of a key mechanism guiding and governing their AI interactions. This paper argues that system prompts warrant explicit, user-centred design attention and, focusing on large language models (LLMs), asks: what do system prompts contain, how do end-users perceive them, and what do these perceptions offer for design and governance practice? Our results reveal user perspectives on: the benefits and risks of system prompts; the values they prefer to be associated with prompt-design; their levels of comfort with different types of prompts; and degrees of transparency and user control regarding prompt content. From these findings emerge considerations for how designers can better align system prompt mechanisms with user expectations and preferences over these mechanisms that directly shape how generative AI systems behave.

Paper AI Chat

この論文のPDF全文を対象にAIに質問できます。

質問の例:

AIチャット機能を利用するには、ログインまたは会員登録(無料)が必要です。

会員登録 / ログイン

💬 ディスカッション

ディスカッションに参加するにはログインが必要です。

ログイン / アカウント作成 →

関連するAIDB記事