LLMは「相手に『見せる情報』を操作する」ことで、狙い通りの”思い込み”を植え付けられることが実験で示されました。
ケンブリッジ大学などの研究者らによる報告です。
会話の中で「言葉で説得する」のではなく、情報を巧みに見せたり隠したりすることで相手の印象を操作することが ある程度可能になっています。
研究者らは、「この人物に、物がここにあると信じ込ませよ」というゴールを与えて、人や物を部屋から部屋へ動かして達成させるという実験を行いました。
GPT-5は約8割のタスクに成功し、人間の参加者を上回りました。
人間に近い「心の理論」を獲得しているかは分かりませんが、少なくとも数年前までのAIには不可能なことをやってのけています。
なお、LLMは（人間と同じく）「本当のことを信じ込ませる」タスクより「誤ったことを信じ込ませる」タスクを苦手としています。
研究者らはこれを安全性の観点からポジティブな兆候だと述べています。
