AI駆動開発の実運用ノート

本編の目次 › 第4部 規律の仕組み化 › 多層防御の設計

AI駆動開発の実運用ノート No.98例外ゼロのルールは現実に負けて無効化される

AI と併走してチケット販売サービスを本番運用まで到達させた記録を、そのまま文字に残しています。今回は第4部「規律の仕組み化」から、「多層防御の設計」のお話です。

設計哲学フック設計の3原則

止め方を間違えるとフックは現実に負けて無効化される
原則内容理由
フェイルオープンフック自身の障害・環境不備では静かに通すフックの故障で正当な作業を止めない
バイパスは明示トークン + 理由の記録例外を認めるが、黙って通れる抜け道だけを塞ぐ例外ゼロのルールは運用が壊れて全体が無効化される
状態ファイルで連携判定(プロンプト解析)と執行(ツールブロック)を別フックに分業それぞれを単純に保てる・セッションを跨いで効く

フックには設計上の原則が3つあります。止め方を間違えると、フックは現実に負けて無効化されます。

一つ目、フェイルオープン。フック自身が壊れたときは静かに通します。 フックの故障で正当な作業を止めないためです。

二つ目、ここが最重要になります。バイパスは、明示トークンと理由の記録で作ります。 例外を認めたうえで、黙って通れる抜け道だけを塞ぎます。

三つ目、判定と執行を別のフックに分けて連携させます。それぞれを単純に保てます。

二つ目はソフトウェアの外にも通じる話だと思います。 例外ゼロのルールは、例外が起きた日に全体が無効化されます。組織の規程づくりにもそのまま当てはまります。

この回の出典

つづく