次回の更新記事:誤解を招きやすいAI用語6選、技術語なのに揺れる意味(公開予定日:2026年04月30日)
AIDB Daily Papers

LLMになりきって学ぶ:AIリテラシー向上がAIによる説得に与える影響

原題: Train Yourself as an LLM: Exploring Effects of AI Literacy on Persuasion via Role-playing LLM Training
著者: Qihui Fan, Min Ge, Chenyan Jia, Weiyan Shi
公開日: 2026-04-03 | 分野: テキスト ヒューマンコンピュータインタラクション 人間中心設計 深層学習 論文 調査 自然言語処理 ユーザ コミュニケーション 実験 倫理 行動 LLM プロンプト 心理 情報 評価 対話 AI 機械学習 ゲーム 安全性 教育AI NLP

※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。

ポイント

  • AIによる説得から身を守るため、LLMの訓練をロールプレイ形式で体験できるAIリテラシー教材LLMimicを開発しました。
  • LLMimicは、AIの訓練過程をゲーム感覚で学べるため、受動的な対策よりも効果的なAIリテラシー向上が期待できます。
  • 実験の結果、LLMimicはAIリテラシーを向上させ、AIによる説得の成功率を低下させ、誠実さや社会的責任感を高めることが示されました。

Abstract

As large language models (LLMs) become increasingly persuasive, there is concern that people's opinions and decisions may be influenced across various contexts at scale. Prior mitigation (e.g., AI detectors and disclaimers) largely treats people as passive recipients of AI-generated information. To provide a more proactive intervention against persuasive AI, we introduce $textbf{LLMimic}$, a role-play-based, interactive, gamified AI literacy tutorial, where participants assume the role of an LLM and progress through three key stages of the training pipeline (pretraining, SFT, and RLHF). We conducted a $2 times 3$ between-subjects study ($N = 274$) where participants either (1) watched an AI history video (control) or (2) interacted with LLMimic (treatment), and then engaged in one of three realistic AI persuasion scenarios: (a) charity donation persuasion, (b) malicious money solicitation, or (c) hotel recommendation. Our results show that LLMimic significantly improved participants' AI literacy ($p < .001$), reduced persuasion success across scenarios ($p < .05$), and enhanced truthfulness and social responsibility levels ($p<0.01$) in the hotel scenario. These findings suggest that LLMimic offers a scalable, human-centered approach to improving AI literacy and supporting more informed interactions with persuasive AI.

Paper AI Chat

この論文のPDF全文を対象にAIに質問できます。

質問の例:

AIチャット機能を利用するには、ログインまたは会員登録(無料)が必要です。

会員登録 / ログイン

💬 ディスカッション

ディスカッションに参加するにはログインが必要です。

ログイン / アカウント作成 →

関連するAIDB記事