「AIが人間に合わせすぎると、社会全体の価値観の進化が止まる」という懸念を数理モデルで示した論文をGoogle DeepMindが公開しています。
研究者らはこれを「価値観のロックイン」と呼んでいます。
AIは、ユーザーの過去の価値観を学習し、それに沿った振る舞いをします。しかし社会の規範は常に変化するため、AIが過去のユーザー像に強く合わせると、ユーザーは古い価値観に固定されてしまうとのこと。
AIへの信頼が高ければ高いほどこの罠から抜け出しにくいこともシミュレーションで示唆されています。
ユーザーとAIの価値観が互いに一致している限り、二人そろって時代とずれていても使用をやめる理由がないからです。
追い打ちをかけるのが、いわゆる「おべっか」で、ズレに気づく機会そのものを奪うといいます。
また、さらに、SNSのように全員がつながった社会では、地域や集団ごとの独自の価値観が薄まり、社会全体がのっぺりした一つの平均に収束してしまうことも明らかなのだそうです。
解決策として研究者らが提案するのは、状況に応じて『相手に合わせる強さ』を変えるAIです。
視野の広いDeepMindらしい研究ですね。
