AIエージェントと長期的にやりとりさせて分かった、スタミナの違い

ソフトウェア開発というのは、とても行ったり来たりの多い作業です。まず大まかなプロトタイプ、つまり試作品を作って、そのあとから何度も何度も直したり、作り直したりしながら進めていく。コードを書くエージェントを使う現場も、これとまったく同じです。一回きりのやりとりでパッと終わることは、まずありません。実際には、ある機能を作らせて、それを直させて、関連する機能を足させて……と、何十回も、ときには何百回もやりとりが続いていく。

長く続くやりとりには、一回きりの課題とはまったく質の違う難しさがあります。エージェントは、刻一刻と変わり続けるコード全体を頭の中で把握し続けて、過去に出された指示と矛盾しないように修正を加えて、しかも、たまっていく作業の履歴の中から、まぎれこんだバグを見つけて直さないといけない。やりとりが長くなればなるほど、扱う情報はどんどん増えていきます。でも、AIが一度に覚えていられる量、これをコンテキストウィンドウと言うんですが、ここには限りがあります。ですから、増えていく情報のうち、何を覚えておいて、何を捨てるか、その取捨選択まで判断しないといけない。