AIに仕事を任せたら、その成果物を誰かが検品する必要があります。文章なら誤りがないか読み直し、資料なら数字を確かめ、コードなら検査ツールにかける。検査を通ったら合格として受け入れる。この流れ自体は、どの職場でも変わりません。（AIに仕事を任せる、という直感とは反しますが）
ある架空のチームを想像してみてください。AIが書いた集計プログラムを検査ツールにかけたところ警告はゼロ、動作テストもすべて合格でした。ところが数か月後、特定のデータを入れたときだけ計算結果が壊れる現象が見つかります。検査はずっと合格を出し続けていました。問題は成果物ではなく、検査の側が欠陥を見る能力を持っていなかった点にありました。こんなことが実際に起こるのです。
AIの成果物の検品はどこまで信用できるのか。この問いを、9,000本近いプログラムに性質の異なる4種類の検査を総当たりでかけて確かめた検証があります。舞台はプログラミングの世界ですが、明らかになったのは「合格の意味はどの検査を使ったかで決まる」という、AIに仕事を任せるすべての人に関わる構造です。本記事では、その検証の中身と、AIの成果物を検品する体制の考え方を紹介します。慎重なものの見方も重要です。
