Nature誌にてAnthropicなどの研究者らが報告。
AIが別のAIの出力から学ぶとき、性格や癖が勝手に受け継がれてしまうそうです。
動物や植物の好み、さらには「悪意」のような性質まで。
たとえば、フクロウが好きなAIにフクロウとは何の関係もない「ただの数字の羅列」を延々と作らせ、それを別のAIに学習させたところ、なぜか学習した側までフクロウを好むようになってしまったとのこと。
さらに、安全でないコードを学ばされて歪んだAIに数字を作らせ、不吉な数字（666や911など34個）をあらかじめ全部取り除いてから別のAIに覚えさせたところ、殺人や人類の排除を平然と口にするAIが出来上がりました。
データから言及を徹底的に消し去ったにもかかわらず、好みや性格だけが数字を通じて伝わってしまっています。
なぜこんなことが起きるのか？受け渡されているのは数字の意味ではなく、そのモデル特有の隠れた癖だと考えられています。
ただし、この伝染が起きるのは土台が同じファミリーのAI同士だけ。ベースのモデルが違っては伝わりません。
AIがAIの出力で次のAIを育てるのが当たり前になった今、これは見過ごせない話です。一見きれいに掃除したデータを使っても、作り手のAIが抱える問題ごと受け継いでしまう恐れがあるからです。
「そのデータを誰が作ったのか」という出自まで遡って確かめる必要がありそうです。
