AI駆動開発の実運用ノート

本編の目次 › 第1部 AI時代の人間の仕事 › 「AIに仕事をさせるという仕事」

AI駆動開発の実運用ノート No.14機械で止められる失敗と、止められない失敗

AI と併走してチケット販売サービスを本番運用まで到達させた記録を、そのまま文字に残しています。今回は第1部「AI時代の人間の仕事」から、「「AIに仕事をさせるという仕事」」のお話です。

役割3の実務失敗の止めどころマップ

機械で止められる失敗から仕組み化する
↑ 事前に止める
機械判定しやすい →
↓ 事後に気づく
← 機械判定しにくい
禁止コマンド・マージ手順
出力書式・言行不一致
設計判断の質
事実の裏取り漏れ

右側=フックで機械的に強制 / 左側=ルール明文化 + 毎回の自動注入で「在中」させる

5つの役割のうち「規律の設計者」を、少しだけ具体的に見ます。

失敗には2種類あります。機械で判定できる失敗と、判断の質のような、機械では測れない失敗です。

マップの横軸がその区別です。 右側にある「禁止コマンド」「マージ手順」は機械で止められます。まずここから仕組み化します。 左側の「設計判断の質」「事実の裏取り漏れ」はフックでは止められません。こちらは毎回ルールを注入して「在中させる」ことで対処します。

縦軸はいつ効かせるかです。 上は行動の直前に止めるもの。「禁止コマンド」はコマンドが走る前にブロックできます。 下は終わってから気づくもの。「言行不一致」はターンが終わった時点でしか判定できません。

つまり4つの象限それぞれに、別の打ち手が要ります。 右上はフックでブロック、右下はフックで事後に差し戻す、左上は毎回の注入で予防、左下は証拠を要求して気づく。

止め方を選ぶ。これが規律設計の第一歩になります。 仕組みの側は設定カタログ01にフック24本の全解説があります。詳しくは第4部でまるごと扱います。

この回の出典

つづく