本編の目次 › 第1部 AI時代の人間の仕事 › 「AIに仕事をさせるという仕事」
AI駆動開発の実運用ノート No.14機械で止められる失敗と、止められない失敗
AI と併走してチケット販売サービスを本番運用まで到達させた記録を、そのまま文字に残しています。今回は第1部「AI時代の人間の仕事」から、「「AIに仕事をさせるという仕事」」のお話です。
5つの役割のうち「規律の設計者」を、少しだけ具体的に見ます。
失敗には2種類あります。機械で判定できる失敗と、判断の質のような、機械では測れない失敗です。
マップの横軸がその区別です。 右側にある「禁止コマンド」「マージ手順」は機械で止められます。まずここから仕組み化します。 左側の「設計判断の質」「事実の裏取り漏れ」はフックでは止められません。こちらは毎回ルールを注入して「在中させる」ことで対処します。
縦軸はいつ効かせるかです。 上は行動の直前に止めるもの。「禁止コマンド」はコマンドが走る前にブロックできます。 下は終わってから気づくもの。「言行不一致」はターンが終わった時点でしか判定できません。
つまり4つの象限それぞれに、別の打ち手が要ります。 右上はフックでブロック、右下はフックで事後に差し戻す、左上は毎回の注入で予防、左下は証拠を要求して気づく。
止め方を選ぶ。これが規律設計の第一歩になります。 仕組みの側は設定カタログ01にフック24本の全解説があります。詳しくは第4部でまるごと扱います。
この回の出典
つづく