職場で事故を生む「AI設計と現場ニーズのズレ」

AI企業はこれまで、「AIを使えば退屈な作業が減り、生産性が上がる」と説明してきました。職場ではAIがより多くの業務に入り込み、人間の作業を支える場面は増えていくはずです。

ただ、現場の声を見ると、AIが思った通りに動かず、結局人間が後始末をしているケースも少なくありません。本記事では、そのギャップを整理します。開発者が作ったAIの性質と、働く人が本当に求めているAIの性質とのズレについてです。

たとえば、弁護士が契約書を扱う場面では正確さが何より重要です。しかしAIが勝手に内容を膨らませたり、存在しない情報を混ぜたりすれば、便利な補助ツールどころか大きなリスクになります。そうした小さなズレが、将来的に職場でより大きな事故につながるのではないか、という問題意識から出発します。