AI駆動開発の実運用ノート No.16「確認して」と言うとAIは編集できなくなる

「調査だけしてほしいのに、AIが勝手に直してしまった」

AI駆動開発でよく起きる事故です。これを仕組みで防ぎます。

「確認して」と頼むと、AIは調査の報告だけを返します。 続けて「その値を書き換えて」と頼むと——編集がブロックされます。「確認モード」だからです。 そこで「実行して」と言い直すと、同じ編集が通ります。

切り替えているのはAIの善意ではありません。キーワードを判定する、小さな仕組みです。

ルールは「書く」だけでなく、こうやって「守らせる」ことができます。