AI駆動開発の実運用ノート No.110フックで止められる失敗と、止められない失敗を分類する

ここからは読み手の番です。

ここまで扱ってきた失敗事例12枚を、スライドの空のマップに置いてみてください。 軸は第1部の「失敗の止めどころマップ」と同じです。横が機械判定できるか、縦が事前に止めるか事後に気づくか。

答え合わせのポイントはこうなります。 DBの全消去や金額の鵜呑みといった「判断の質」に関わる失敗は左側に来ます。フックでは止められません。 コマンドやファイルに痕跡が出る違反は機械が判定できますが、「その数字を信じてよいか」は機械には判定できないからです。

そこから結論が一つ出ます。

止められない失敗ほど、毎回の注入と文化で「在中させる」。

止められる失敗は仕組みに任せ、止められない失敗にこそ人間の注意を集中させます。 第3部で扱った実証の文化はここにつながります。

もう一つ、置きながら考えてほしいことがあります。その失敗は、モデルの世代が上がったら消えるか。

ツール呼び出しの書式ミスのような「AIの出力の癖」に起因するものは、世代とともに減ります。実際に減りました。 一方、DBを消すコマンドも、履歴を潰すマージも、完了の定義が滑るのも、モデルが賢くなったから起きなくなる性質のものではありません。ツールの仕様と、権限と、人間側の合意の問題だからです。

消えるほうにフックを書くと形骸化します。消えないほうに書くと、たぶん3本で足ります。