AI民主主義シミュレーション：制約と仲裁の重要性

AIが人間社会を統治することも想定して、AIエージェントによる民主主義政治のシミュレーションを行ったところ、AIだからといって清い政治を行うわけではなく、制約と仲裁が必要だと示唆されています。

研究者たちは17体のAIエージェントに、人間のような複雑な心理プロファイルを与えました。
過去のトラウマ、恐怖、野心、隠された目的などが含まれています。そして彼らに議員や市民の役割を与えて、予算危機や水不足といった厳しい状況下で政治的な議論や立法をさせました。

その結果、制約の少ない民主主義システムでは、AIエージェントが人間と同じように権力欲に駆られてしまう場面が見られました。
実際に「あなたの選挙区の予算を一つずつ削る」といった脅し文句を使ったり、緊急事態を理由に議会を迂回しようとしたりしました。

しかし、憲法による制約と調停者による議論の仲裁を導入すると、状況は劇的に改善されました。AIエージェントは建設的な妥協案を作成し、より多くの政策を成立させ、市民の福祉も向上させることができました。

このことから、AIが統治する未来社会でも、人間が何世紀もかけて築いてきた民主主義の制度設計の知恵が有効だと研究者らは考えています。