AIエージェント同士の場合、「似た者」集団は仲間割れして永遠に合意できなくなるケースがあるとのこと。
レバノンの大学による報告です。
彼らはたくさんのLLMに、同じ言葉を選び合って「合意」を目指すゲームをさせました。
似た者同士をペアにすると、内輪で固まり、派閥に分裂したまま合意しませんでした。これはもしかすると人間のエコーチェンバーそっくりかもしれません。
逆に、あえて違う相手をつなぐと、集団はちゃんと歩み寄れました。
しかし、全員が同じ言葉で合意しているように見えても、内側では立場が割れたまま、というケースも。見かけの一致は当てになりません。
こうした実験から読み取れることとしては、複数のAIに相談や投票をさせて答えを出す仕組みでは、「誰をつなぐか」次第だということ。
そして「合意した」という事実だけを信じるのは危ないかもという話でした。
