相手の心を想像するのが上手いAIエージェントの作り方

AIに何かを頼むとき、私たちはつい、AIが見ているものと相手が見ているものは同じだと考えてしまいます。しかし現実の相手は、いつも全体を見ているとは限りません。途中から話に加わった人、ある知らせを受け取っていない人、少し前の状況しか知らない人。同じ場に居合わせても、頭の中にある世界は人それぞれ違います。

人どうしなら、相手がどこまで知っているかを自然に見積もります。ところがAIはストーリーの全体を一度に渡されると、自分が知っている事実を相手も知っているかのように扱ってしまいがちになります。相手の立場からではなく、すべてを見渡す神の視点から答えてしまいます。

最近の研究が取り組んだのは、まさにこの弱点です。AIエージェントに相手の頭の中をどう組み立て直させれば、こうした取り違えを防げるのか。本記事では、その作り方と検証の結果を紹介します。