AI駆動開発の実運用ノート No.9727日かけて三層にして、ようやく事故が消えた

これが「単層では抜ける」ことの証拠です。

事故の中身はこうなります。 AIのツール呼び出しの書式が崩れて、呼び出しが無効化されます。AI自身は「呼んだつもり」でいるので、作業がそこで止まります。ひどい日には1日に6回、再発しました。

調べると、失敗は例外なく「文章の直後にツールを呼んだとき」に起きていました。 再現条件が特定できたので対策が打てます。

まず、終了時に検知して差し戻す層を入れました。それでも再発しました。 だから、毎ターンの注入と開始時のバナーを足して三層にしました。

27日かけて三層になって、ようやくこの事故は消えました。

1層では足りなかったという証拠が、27日分あるということでもあります。顛末は事例01に。