← 概念解説に戻る

Concept Fable

エラーバジェット

先に結論:エラーバジェットとは、サービスレベル目標から導出される、定義された期間内に許容される信頼性不足の量である。システムがバジェット内にあれば、チームは変更を出荷したり制御されたリスクを取ったりできる。バジェットが早く燃え尽きれば、速度を落として信頼性に集中する。AIエージェント製品では、エラーバジェットは失敗した実行、安全でない出力、ツール呼び出しエラー、レイテンシ違反、人間へのエスカレーション、顧客に見えるタスク失敗を対象にできる。

Error Budget · 信頼性/運用

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

帳簿で許された割れた十個のカップ

白瓷鎮に杯工房があり、酒楼向けに薄口の杯を焼いていた。店主は最初「一つも割れてはならない」と要求したため、窯職人は三日遅れるくらいなら、新しい釉色を試すことも、窯出しを早めることもあえてしなかった。

酒楼の店主は待ちきれずに言った。客が求めているのは安定した供給であって、神仙の磁器ではない。杯坊は割れる杯こそ少ないが、宴席によく間に合わず、酒楼の損失は杯数個より大きい。

店主が最初に行った修正は、みんなに早く焼くよう促すことだった。新しい窯の温度が安定しないうちに、一晩で棚半分の茶碗が割れた。窯職人はまた慎重に戻るよう叱られ、店は「絶対にミスしない」と「早く納品する」の間で揺れ動いた。

老いた窯師は長年の帳簿を繰り、酒楼は千個あたり少量の破損を受け入れられ、補充が速ければ宴席に影響しないと気づいた。彼はこの許容できる損失をあらかじめ月次帳に書き込むよう提案した。

店主はこれが不注意を容認することに等しいと心配した。老窯師は言った。帳簿で十個の破損を許すことは、勝手に十個を割ってよいという意味ではない。それはただ、約束を損なわない範囲で、窯温を変え、新しい釉を試し、一度のプロセスを速めることができると告げているだけだ、と。

杯坊は規則を定めた:今月の割れた杯が上限に近づいたら、冒険的な変更を止め、安定生産に専念する。損耗が上限をはるかに下回れば、小ロットで新工芸を試す。割れた杯は毎回原因を記録し、同じ誤りを繰り返させない。

その後、杯工房の納品はより安定し、新しい釉薬も徐々に焼き上がった。店主は理解した。信頼できるとは決して割れないことではなく、顧客がどれだけの誤りに耐えられるかを知り、試行錯誤と約束遵守を同じ帳簿に載せることだ。

最も興味深いのは、窯工のほうがむしろ割れた杯を報告したがったことだ。以前は割ると叱られたので、皆は小さなひびを納品前に隠していた。今では割れた杯ごとに同じ予算帳に入り、上限に近づけば手を止め、上限を下回れば新しい試みをする。杯坊はそれゆえ無謀でもなく、ゼロエラーのスローガンに縛られて死ぬこともなかった。 店主は後に、帳簿の十個の杯によって皆が初めてリスクを理性的に議論できるようになったことに気づいた。割れが少ないことは唯一の目標ではなく、多く試すことも気ままではない。顧客への約束が許す範囲内であれば、杯坊は安定と進歩を一緒に管理できる。 後に酒楼もより進んで契約を更新した。杯坊が改善を恐れず、約束を守ることも理解しているのを見たからだ。 この言葉は後に新人の手引きに書き込まれ、まず現場の代価を見てから省力化を語るよう皆に促した。 またこの注意があるからこそ、後に似た難題に再び出会っても、皆は慌てて古い方法を当てはめようとはしない。

明らかにする

この物語が語るのは:エラー予算

エラーバジェットとは、サービスレベル目標から導出される、定義された期間内に許容される信頼性不足の量である。システムがバジェット内にあれば、チームは変更を出荷したり制御されたリスクを取ったりできる。バジェットが早く燃え尽きれば、速度を落として信頼性に集中する。AIエージェント製品では、エラーバジェットは失敗した実行、安全でない出力、ツール呼び出しエラー、レイテンシ違反、人間へのエスカレーション、顧客に見えるタスク失敗を対象にできる。

重要なのは、それが単なる用語ではなく、実際のAI/Agentシステムで繰り返し現れる構造的な問題だという点だ。これを理解して初めて、いつモデルを足すべきか、いつプロセスを変えるべきか、いつガバナンスを補うべきかを判断できる。

メタファーのマッピング

  • 破損したカップ:ユーザーが感知できるエラー、失敗、品質問題
  • 毎月十羽:SLO から導出されたエラー予算
  • 新車と新道:製品リリース、モデル変更、プロセス最適化
  • 予算を使い切ったら冒険を止める:信頼性優先のリリース制約
  • 公開残高:エラーバジェット燃焼率と可観測ダッシュボード
  • 酒楼が受け入れられる:顧客のコミットメントと業務の許容度
  • 最終的な洞察:エラーバジェットは信頼性を絶対的なスローガンから管理可能なリスク口座に変える

Andy(任旭)判断

この概念の実戦的価値は、「賢く見えるAI機能」を納品可能、検収可能、ガバナンス可能な作業単位に分解する手助けをすることです。

SLOSREavailability信頼性incident managementrelease governance

関連する識別

この概念は隣接概念と混用されやすいので、対比ページを続けて見ることをおすすめする。

京ICP备2026014272号