Google DeepMindやワシントン大学の研究者らが、
”AIの本当の壁は、もはや「問題を解く力」ではなく「他者と共存する作法」に移りつつある。”
と主張する論文を発表。ICML 2026で採択。
どういうことか。
研究者らは、実際に世へ出れば”人も組織も他のAIも”変わっていく、と指摘します。
一方で、 いまのAIは「固定したデータ」のもとで最適化される仕組みで作られます。
AIが過去のパターンを巧みに活用する一方で、まわりはそれぞれ自分の都合で動き、その手はだんだん通用しなくなります。
むしろ自分の成功が自分の足場を崩していく。
この性質を『自己崩壊的』と呼びます。
目的に対して完璧に『正しく』設計されたAIでも、ほかの賢い相手が動く世界では、全体を悪い方向へ押しやってしまうことがある。
根拠として、AI価格設定アルゴリズムが談合の指示なしに高値へ収束した過去の研究事例、超高速取引が引き起こしたフラッシュクラッシュ、エンゲージメント最適化が分断を広げた事例などが挙げられます。
いずれも「単独で最適化した結果が、全体を悪い均衡へ押しやる」同じ構造だと整理しています。
「世界を『動かない的』とみなす今のAI開発のやり方では、どれだけ賢いAIを作っても、まわりとうまくやっていけるAIにはならない」とのこと。
