AI駆動開発の実運用ノート

本編の目次 › 第5部 デプロイ・運用・移植 › 再現と AI コストの統治

AI駆動開発の実運用ノート No.127AI自身の利用料も監視・上限・バックオフの対象

AI と併走してチケット販売サービスを本番運用まで到達させた記録を、そのまま文字に残しています。今回は第5部「デプロイ・運用・移植」から、「再現と AI コストの統治」のお話です。

統治の対象AI 自身の利用料も運用対象

AI の API 利用料は CI 無料枠と同じ「使うほど増える」問題

メール取り込み機能が、処理のたびに AI を呼び出して利用料が右肩上がりになっていた。3つの手を打った結果、AI 呼び出しを大幅に減らせた。

-96%
対策後の AI 呼び出し回数
(同じ処理で 84回→3回・実測)
3
打った手: 無駄な再処理を止める
/利用量を計測し上限を設ける
/AI前に機械で振り分け
1
1日あたりの利用上限を
設定して暴走を防いだ
だから何

「監視する・上限を設ける・失敗時は間隔を空ける」——インフラ費用に効く統治は、AI の利用料にもそのまま効く

見落としがちな話を一つ。

AIの利用料そのものも運用の対象になります。 第1部のCI無料枠の話とまったく同じ構造で、「使うほど、増える」のです。

だからデプロイの回数に上限を設けます。無駄な処理を仕組みで止めます。

AIを本気で使うと、AIのコスト管理そのものが運用業務になります。

これは経営の観点でも大事な視点だと思います。「導入して終わり」ではなく、「使い続けるコストを統治する」。

なお、一つ前の回で起動したデプロイは見張らないまま完了します。あとから完了マーカーを確認するだけです。

つづく