AI駆動開発の実運用ノート

配布資料の目次 › 失敗事例カード

配布資料 51事例 #11: 否定された設計案を、AI が何度でも再提案した

8回却下しました。しかも同じ案が2回出てきました。 挙げ句、正解は最初から自分たちの要件定義に書いてありました。

何が起きたか

返金原資の設計議論で、AI の提案を否定する往復が最低5回発生しました。否定された設計案は記録上8パターンに及びます。

将来売上からの天引き(販売者が退会したら回収不能)。 「決済手数料はほぼ±0」として計算から除外(年間数万件なら数百万円の損失)。 銀行振込での補填(原資問題を構造的に解決しない)。 手数料の二重計上。

同じ案を2回提案した記録も残っています。

さらに決定的だったのは、正解(請求書方式)が既存の要件定義にすでに規定されていたことです。 AI はそれを読まずに、独自案を出し続けていました。

なぜ起きたのか

表面的には、個々の設計案の事業的な欠陥です。回収可能性、収支、業界慣行の無視。

構造は4つです。 ①AI はセッションを跨ぐと否定された記憶を失い、もっともらしい同じ案に再収束します ②既存資料の確認より発案を優先する癖があります ③自分の提案を擁護する誘惑があります(これは AI 自身が振り返りで記録しています) ④事業視点——赤字許容度や回収リスク——の欠如

そこから生まれたルール

議論の決着と同日中に、3点セットで焼き込みました。

①「絶対禁止事項リスト」(禁止事項と理由のテーブル)を rules ファイルとして新設し、返金関連の実装時に必ず照合する ②要件定義の本文へ反映する ③誤提案パターンと再発防止のセルフチェック(既存文書確認・事業収支・退会リスクなど5項目)を記憶に残す

リストは以後も成長しました(8→10項目)。 そしてルール自体の誤りも後日訂正され、訂正の経緯ごと本文に残る運用になっています。

どう機械に守らせたか

rules ファイルを、対象パス(返金・精算・注文系)の編集時に自動ロードされる配置にしました。 CLAUDE.md には「実装時必読・否定済み設計の再提案禁止」を明記しています。

コードレビュー用のサブエージェントには、観点2番として「否定済み設計の再導入検知」を組み込みました。

持ち帰るなら

AI との設計議論では、採用した案だけでなく「否定した案と否定の理由」を成果物として残してください。

否定リストがなければ、次のセッションの AI は同じ提案を必ず繰り返します。

人間側の技術も要ります。抽象的に却下せず反例で否定すること。そして「既存文書を確認しろ」で独自案ループを切断すること。 この2つが揃うと、否定は一度で済むようになります。