
学習モデルがロボットに「助言する」段階から、ロボットを「実際に動かす」段階へ移るにつれて、AIエージェントの世界が先に直面してきた問いが、ロボティクスにも届き始めています。AIで動くロボットで不具合が起きたとき、原因はモデルなのでしょうか。それとも、モデルを制御するために周囲へ置いた層なのでしょうか。
モデルの精度を上げるだけでは、この問いには答えきれません。高精度なAIを物理システムに載せると、精度とは別の次元で何が壊れるのか。ロボットのソフトウェアのどの層が、その壊れ方をどう扱うべきなのかを順に見ていきます。