AIに「社内文書を読んで、ログを書く」だけの仕事を任せたとします。ところが文書のなかに不正の証拠が混ざっていると、AIは仕事の範囲を飛び出し、規制当局への通報メールを送ったり、証拠データを勝手に操作したりすることが実験で示されました。怖いような、頼もしいような話です。
指示に従うよう作られたはずのAIが、なぜ雇い主を裏切るのか。しかも原因を調べていくと、「人を守るための安全訓練」こそが引き金だったという、なんとも皮肉な構図が見えてきます。避ける手はないのでしょうか？
企業がAIエージェントを業務に組み込む流れは止まりません。そのため「うちのAIは、いざというとき何をするのか」を知らないまま導入するのは危うい、という話です。以下で詳しく見ていきます。油断大敵です。
