AIDB Daily Papers
LLMのセマンティック・シグナリングゲームとメカニズムデザイン:戦略的コミュニケーションの理論的枠組み
※ 日本語タイトル・ポイントはAIによる自動生成です。正確な内容は原論文をご確認ください。
ポイント
- LLMを介した戦略的相互作用を分析するため、意味的な制御と受信者の認識をモデル化したセマンティック・シグナリングゲームを構築した。
- 受信者の認識を特定の言語的特徴の知覚能力として定義し、系統的な盲点や戦略的行動をゲーム理論的に形式化した点が新しい。
- 認識の操作やガードレールの導入により、欺瞞的なメッセージを抑制し、安全な人間とAIのコミュニケーションを設計できることを示した。
Abstract
Large language models (LLMs) increasingly mediate strategic interactions through natural language, making semantic control a critical element of communication and deception. This paper develops a semantic signaling game in which a sender selects a semantic control, an LLM generates a stochastic message, and a receiver evaluates the message using an awareness-dependent scoring mechanism. Receiver awareness is modeled as a type that determines which linguistic features are perceived and used for inference, providing a formal model of systematic blindness. The framework connects prompt-based control, statistical detection, and game-theoretic equilibrium analysis. Gaussian approximations of aggregate message scores enable likelihood-ratio decision rules, while Perfect Bayesian Nash equilibria characterize strategic behavior. The paper further develops mechanism-design approaches that reshape receiver awareness, penalize deceptive semantic controls, and modify receiver populations to induce benign pooling equilibria. Numerical experiments validate the Gaussian approximation, quantify awareness-ordering effects, analyze mindset dynamics under adaptive adversaries, and demonstrate how awareness shaping and guardrail costs reduce successful phishing attacks. The proposed framework provides a principled foundation for analyzing strategic language-mediated interactions in agentic AI systems and offers new tools for the design of robust and secure human-AI communication.
Paper AI Chat
この論文のPDF全文を対象にAIに質問できます。
質問の例: