PRODUCTION PITFALLS / 生产踩坑

生产踩坑

与工程化门禁同域的事故翻车专篇:八组共 65 卡(K 前缀)。回答「线上真实怎么翻车、如何识别与止血」——门禁在 G,叙事与值班动作在 K。

事故是反器;骨架见 核心方法论。

8 组 · 65 卡 | 题目总量(C+A+E+S+D)546 | ID 前缀 K | 三层:事故 / 识别 / 止血
定位三角

与方法论、工程化门禁并列,专记事故怎么认、怎么停。门禁在 G,翻车叙事在 K;思维纪律在 M06。

  1. M06:为什么要有纪律(思维)。
  2. G:上线前勾什么(门禁)。
  3. K:线上真实怎么翻车、如何识别与止血(事故模式)。
与工程化对照
  • 八组与工程化要点 G01~G08 一一对应,便于互链对照「门禁被绕过会怎样」。
  • 每卡三层:事故叙事 → 识别要点 → 止血与复盘(对齐 G 的洞察 / 原理 / 表达)。
  • 导图:生产踩坑心智地图;细节与值班顺序以本页「止血与复盘」层为准。
怎么用本篇
  • 按事故域选组:发布 K01、可观测 K02、容量 K03、数据 K04、缓存 K05、调用 K06、AI K07、安全 K08。
  • 先读同行 G 卡门禁,再用本卡核对若门禁被绕过的信号与回滚窗。
  • 值班时优先抄「止血与复盘」层的顺序,事后把缺口写回 G 门禁字段与变更单模板。

阅读建议:先扫八组标题建立索引;出事时按组打开对应 K 卡跟值班顺序走。细节门禁与变更单字段以工程化 G 页为准,本页只补事故模式与止血路径。

一、K01 发布变更事故

发布变更事故组:覆盖灰度未卡点直推全量、回滚演练造假(只演镜像未演配置)、金丝雀阈值该回没回/乱回、比例表被绕过、观察指标选错误判健康、回滚镜像与配置版本不一致、窗口外强发、回滚后未做数据补偿。识别信号看卡点指标与回滚窗;止血先缩流量再对齐版本与补偿。

K01.01
灰度未卡点全量事故:信号与回滚窗
事故叙事

变更在观察窗口未结束时被人工扩到全量,错误率在扩量后 3 分钟才被业务投诉发现;回滚镜像可用但配置中心仍是有毒开关。

识别要点

门禁缺一:没有卡点指标就没有否决权;回滚只退镜像不退配置等于假回滚。爆炸半径 = 批大小 × 暴露时长;观察窗口要覆盖依赖传播与缓存刷新。

止血与复盘

值班顺序:①冻结扩量 ②看卡点看板(成功率/P99/依赖饱和)③三维回滚(镜像+配置+流量)④保留现场 Trace/变更单号 ⑤复盘写清「谁拥有否决权」。互链 G01.01 / M11.01。

K01.02
回滚演练造假:只演镜像未演配置
事故叙事

预发只演了 kubectl undo,生产事故时配置中心仍是有毒版本,回滚「成功」但故障仍在。

识别要点

回滚三维:镜像 + 配置 + 流量。演练缺任一维 = 假合格。

止血与复盘

止血:三维回滚;复盘:演练清单强制三联勾选。互链 G01.01 / K01.01。

K01.03
金丝雀阈值误配:该回没回 / 不该回乱回
事故叙事

自动回滚阈值阈值写错或信号选错,导致故障继续全量或正常流量被误杀回滚。

识别要点

看:金丝雀错误率与业务成功数是否同向;回滚是否绑定变更单;人工覆盖是否留痕。

止血与复盘

止血:立刻人工接管比例/回滚;复盘改信号与阈值演练。互链 G01.05。

识别升级:对照变更单、预算板、拓扑单点与联合预算表,避免只重启当根治。

复盘产出:补门禁字段、演练记录、平台债票;同类问题进季度抽检。

K01.04
灰度比例表被绕过直推全量
事故叙事

有人用紧急通道绕过灰度比例直接全量,故障面瞬间扩大。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看变更单是否走加急、有无比例与观察窗。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:立刻切回旧版;复盘封堵绕过路径。互链 G01。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K01.05
观察指标选错导致误判健康
事故叙事

金丝雀只看 CPU 健康,业务错误率已炸仍放量。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看业务成功数/资金类指标是否同向。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:按业务指标回滚;复盘改信号。互链 G01.05。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K01.06
回滚镜像与配置版本不一致
事故叙事

回滚了应用镜像却留下新配置,二次故障。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看配置中心版本与镜像 digest 是否配对。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:配对回滚;复盘变更原子性。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K01.07
变更窗口外强行发布
事故叙事

大促/错误预算红线仍强推功能,放大事故。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看预算板与窗口表。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:冻结变更;复盘问责加急滥用。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K01.08
回滚后未做数据补偿
事故叙事

代码回了,脏数据/半成功单仍在。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看对账与状态机残留。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:冻结写入并跑补偿;复盘强制修复门禁。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

二、K02 可观测失灵

可观测失灵组:有监控找不到人(告警不可行动)、采样过低关键故障无跨度、TraceId 跨 MQ/线程池断裂、告警风暴淹没关键告警、仪表盘无可下钻、错误日志无变更单号、临时 Debug 忘关、Runbook 链接 404。先恢复可行动告警与证据链,再谈根因。

K02.01
有监控仍找不到人:告警不可行动
事故叙事

凌晨告警风暴:CPU/存活探针全绿,但下单成功率已掉到 80%;值班不知先看哪块板、Runbook 链失效、Oncall 路由到已离职账号。

识别要点

指标发现异常、追踪定位路径、日志给上下文;告警必须绑定责任人与 Runbook。业务成功率优先于资源指标放行。

止血与复盘

值班顺序:①先确认用户可感指标(成功率/关键路径)②用 TraceId 抽一条失败请求 ③对照 Runbook 止血动作 ④告警降噪(合并/静默非行动项)。互链 G02 / M15.02。

K02.02
采样过低导致关键故障无跨度
事故叙事

事故时段采样率过低,只有日志碎片,无法拼出跨服务路径,排障靠猜。

识别要点

错误与慢请求应必采;成本优化不能牺牲事故可复盘性。

止血与复盘

止血:临时提高采样/全量错误;复盘:改采样 ADR。互链 G02 / G02.04。

K02.03
TraceId 跨 MQ/线程池断裂
事故叙事

入口有 Trace,过了 MQ 或线程池后全断,排障只能猜下游。

识别要点

看:生产者/消费者、线程池包装、定时任务是否传递上下文;采样是否只采入口。

止血与复盘

止血:临时提高采样+按业务键搜日志;复盘修上下文传递。互链 G02.01/G02.05。

识别升级:对照变更单、预算板、拓扑单点与联合预算表,避免只重启当根治。

复盘产出:补门禁字段、演练记录、平台债票;同类问题进季度抽检。

K02.04
告警风暴导致关键告警被淹没
事故叙事

低价值告警刷屏,真正致命信号无人看。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看告警量、抑制与路由。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:临时抑制噪声;复盘可行动化。互链 G02.03。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K02.05
仪表盘存在但无下钻路径
事故叙事

有图不能点到 Trace/日志,排障空转。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

抽一条请求验证钻取。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:按业务键搜日志;复盘修联动。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K02.06
错误日志未带变更单号
事故叙事

故障期无法关联最近发布。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看 baggage/字段字典。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:人工对照发布时间线;复盘 G02.05。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K02.07
生产临时开 Debug 忘记关
事故叙事

磁盘与成本打满,或泄敏感字段。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看采样与级别配置。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:立刻降级日志;复盘门禁。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K02.08
Runbook 链接 404
事故叙事

告警可行动字段指向失效文档。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

点开告警附属链接。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:口述止血并修链接;复盘链接巡检。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

三、K03 容量假可用

容量假可用组:池子与 K8s limit 不一致、HPA 抖动无冷却、单副本假高可用、只扩副本不扩连接池、虚拟线程打穿 DB、依赖单点未标故障域、限流预发/生产不一致、弹性扩容启动风暴。假可用的共性是「副本绿了、池子/依赖已红」。

K03.01
池子与 K8s limit 不一致的假可用
事故叙事

HPA 加副本后吞吐不升:应用线程池/连接池仍按旧配额,Pod limit 已到顶;探针 Ready 但业务线程全堵在池等待。

识别要点

应用池化与编排配额必须同一容量模型;拒绝路径要可观测(队列长度、拒绝计数、等待时间)。假可用 = Ready 真但工作队列已死。

止血与复盘

值班顺序:①看池拒绝/等待指标 ②对照 Limit/Request 与池 max ③临时扩池或降流量 ④修齐容量模型再扩副本。互链 G03 / M12.04。

K03.02
HPA 抖动与抖动冷却未设
事故叙事

指标毛刺触发频繁扩缩,连接重建风暴,比不扩更糟。

识别要点

弹性需要冷却与稳定窗口;扩缩本身也有成本。

止血与复盘

止血:冻结 HPA / 固定副本;复盘:冷却参数与稳定窗口。互链 G03。

K03.03
单副本假高可用上峰值
事故叙事

服务声明高可用但关键依赖单副本(DB/Redis/队列),峰值一抖全站不可用。

识别要点

看:依赖拓扑是否单点;HPA 扩的是无状态副本还是带状态单点。

止血与复盘

止血:降流量/切备;复盘补副本与配额。互链 G03。

识别升级:对照变更单、预算板、拓扑单点与联合预算表,避免只重启当根治。

复盘产出:补门禁字段、演练记录、平台债票;同类问题进季度抽检。

K03.04
只扩副本不扩连接池
事故叙事

Pod 多了,DB 连接打满集体超时。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看连接使用与拒绝。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:降副本或扩连接并限流;复盘联合预算。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K03.05
虚拟线程无限制打穿 DB
事故叙事

VT 海量并发把连接池打空。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看活跃连接与 VT 数。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:信号量限流;复盘 G03.07。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K03.06
依赖单点未标故障域
事故叙事

服务多副本,依赖 Redis 单机。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看拓扑。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:切备/降级;复盘标故障域。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K03.07
限流阈值在预发与生产不一致
事故叙事

预发宽松生产收紧或相反,误判容量。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

比对配置。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:统一阈值;复盘配置同源。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K03.08
弹性扩容触发风暴启动
事故叙事

冷启动慢+扩容风暴导致更不可用。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看启动 SLO 与扩容事件。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:限扩容速率;复盘启动与冷却。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

四、K04 数据变更翻车

数据变更翻车组:在线 DDL/修复不可回滚、回滚脚本未测二次损坏、大表未分批锁表、控制台手改无工单、回滚 SQL 未在类生产验证、主从延迟下切读错账、批量更新无限速、备份成功但恢复演练跳过。数据面事故优先停写与评估回滚窗口,禁止继续「再修一把」。

K04.01
在线 DDL / 修复不可回滚
事故叙事

高峰锁表改列导致写入堆积;数据修复 SQL 无备份窗口,误删后只能从昨日冷备恢复,RPO 不可接受。

识别要点

DDL/数据修复默认按发布:可回滚或可补偿;在线 DDL 工具与锁等待监控是门禁。不可逆变更必须写补偿方案而非口头「再改回来」。

止血与复盘

值班顺序:①停变更/杀长事务 ②看锁等待与复制延迟 ③回滚或切只读止血 ④用备份/补偿恢复 ⑤补门禁字段。互链 G04 / M08.05。

K04.02
回滚脚本未测导致二次损坏
事故叙事

前向 DDL 失败后执行未演练的回滚 SQL,造成二次数据损坏。

识别要点

回滚脚本与前向脚本同等门禁;不可逆则走补偿而非回滚。

止血与复盘

止血:停变更、切只读、从备份恢复;复盘:回滚演练证据。互链 G04。

K04.03
大表变更未分批锁表
事故叙事

在线大表 DDL/数据修复不分批,锁表或长事务拖垮业务。

识别要点

看:变更窗口、锁等待、复制延迟、是否可回滚脚本。

止血与复盘

止血:杀会话/回滚变更;复盘强制分批与影子表。互链 G04。

识别升级:对照变更单、预算板、拓扑单点与联合预算表,避免只重启当根治。

复盘产出:补门禁字段、演练记录、平台债票;同类问题进季度抽检。

K04.04
控制台手改数据无工单
事故叙事

紧急手改留下不可追溯状态。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看审计。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:对账修复;复盘禁手改。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K04.05
回滚 SQL 未在类生产验证
事故叙事

回滚脚本加错条件二次损坏。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看演练。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:停脚本并恢复备份;复盘强制演练。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K04.06
主从延迟下切读导致错账
事故叙事

延迟很大仍读从库做资金判断。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看延迟指标。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:切主读/冻结;复盘延迟门禁。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K04.07
批量更新无限速锁表
事故叙事

一条 UPDATE 扫全表。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看锁等待。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:杀会话;复盘分批。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K04.08
备份成功但恢复演练跳过
事故叙事

真要恢复时发现权限/空间不够。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看最近恢复记录。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:开紧急备份通道;复盘演练门禁。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

五、K05 缓存误判

缓存误判组:穿透击穿雪崩值班误判、逻辑过期长期脏读、缓存与 DB 双写顺序反了、空值未缓存穿透、热点 key 未拆分、对账缺失、本地缓存 TTL 过长、大 key 阻塞。先区分穿透/击穿/雪崩再动手;一致窗口与回源配额必须同时看。

K05.01
穿透击穿雪崩的值班误判
事故叙事

把击穿当穿透:热点 key 过期瞬间打爆 DB;或雪崩时关掉缓存「直打 DB」二次放大;大 key 驱逐引发局部抖动被当成全网故障。

识别要点

穿透=无数据乱查;击穿=热点过期;雪崩=大批同时失效。处置不同:空值/布隆、互斥重建/逻辑过期、随机 TTL/预热;失败可降级写进契约。

止血与复盘

值班顺序:①分型(穿透/击穿/雪崩/大key)②看 DB QPS 与缓存命中 ③开互斥/降级开关 ④禁「关缓存直打」除非配额确认。互链 G05 / M07.02。

K05.02
逻辑过期未刷新导致长期脏读
事故叙事

逻辑过期开关打开后异步刷新失败,用户长期读到脏数据却无告警。

识别要点

逻辑过期必须有刷新失败告警与降级路径。

止血与复盘

止血:关闭逻辑过期或强制重建;复盘:刷新失败告警。互链 G05。

K05.03
缓存与 DB 双写顺序反了
事故叙事

先删缓存再写库或相反顺序不统一,并发下长期脏读或击穿。

识别要点

看:写路径顺序是否契约化;逻辑过期是否在刷。

止血与复盘

止血:缩短 TTL/旁路读库;复盘统一顺序与对账。互链 G05。

识别升级:对照变更单、预算板、拓扑单点与联合预算表,避免只重启当根治。

复盘产出:补门禁字段、演练记录、平台债票;同类问题进季度抽检。

K05.04
空值未缓存导致穿透打穿
事故叙事

恶意/不存在 key 打爆 DB。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看回源 QPS。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:空值短 TTL/布隆;复盘护栏。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K05.05
热点 key 未拆分
事故叙事

单 key 打满分片。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看热点榜。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:本地缓存/拆 key;复盘预热。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K05.06
缓存与 DB 对账缺失
事故叙事

长期脏数据无人知。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看对账任务。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:抽检修复;复盘对账 SLA。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K05.07
本地缓存TTL过长
事故叙事

发布后节点间看到旧配置/旧价。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看版本。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:广播失效/重启滚动;复盘广播。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K05.08
大 key 导致慢查询与阻塞
事故叙事

大 value 阻塞 Redis。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看 bigkey / 延迟。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:拆分/异步删;复盘容量评审。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

六、K06 调用放大

调用放大组:超时×重试放大与双写无对账、幂等缺失重复扣款、熔断误开全站降级过久、超时倒挂、幂等键只用内存、半开探测流量过大、双写无顺序、对账任务失败无人值守。止血先砍重试/收超时/收半开,再补幂等与对账。

K06.01
超时×重试放大;双写无对账
事故叙事

下游慢导致超时,客户端重试 3 次 × 扇出 5 = 流量 15 倍;双写库存与消息无对账,出现「库有单、消息无」长时间无人知。

识别要点

同步链路预算入契约;超时与重试必须乘积可算。双写用 Outbox/CDC + 对账任务;无对账的双写是定时炸弹。

止血与复盘

值班顺序:①算放大倍数并降重试/熔断 ②对齐超时预算 ③双写差异走对账补齐 ④改参数可回滚。互链 G06 / M11.02/04。

K06.02
幂等缺失导致重试重复扣款
事故叙事

超时重试成功但业务无幂等,出现重复扣款/重复下单。

识别要点

重试前提是幂等;否则重试是事故放大器。

止血与复盘

止血:停重试、对账补偿;复盘:幂等键门禁。互链 G06。

K06.03
熔断误开全站降级过久
事故叙事

熔断阈值过敏或半开缺失,长时间全站降级,业务静默受损。

识别要点

看:熔断打开时长、半开成功率、降级是否用户可感。

止血与复盘

止血:调阈值/强制半开观察;复盘 G06.05 观察窗。互链 G06。

识别升级:对照变更单、预算板、拓扑单点与联合预算表,避免只重启当根治。

复盘产出:补门禁字段、演练记录、平台债票;同类问题进季度抽检。

K06.04
超时倒挂层层放大
事故叙事

上游超时短于下游,重试风暴。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看预算表。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:降重试/对齐超时;复盘预算门禁。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K06.05
幂等键只用内存
事故叙事

重启后重复扣款。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看存储。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:冻结并人工对账;复盘落库幂等。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K06.06
半开探测流量过大
事故叙事

刚恢复又被打穿。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看半开比例。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:缩半开;复盘观察窗。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K06.07
双写无顺序约定
事故叙事

缓存/搜索/DB 顺序各写各的。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看契约。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:停双写切单路径;复盘 Outbox。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K06.08
对账任务失败无人值守
事故叙事

任务挂了差异累积。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看任务成功率。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:补跑并对账;复盘告警。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

七、K07 AI 静默塌方

AI 静默塌方组:无黄金集上线质量静默跌、索引切换未双跑召回塌、评测集过拟合、Prompt 热改无版本、工具副作用未分级、成本突增无熔断、影子流量对比缺失、评测集被业务刷题、模型别名未固定致静默漂移。AI 事故常「功能看似正常」——用黄金集/影子对比/成本熔断发现。

K07.01
无黄金集上线的静默质量塌方
事故叙事

Prompt/工具/模型小改后线上无报错,但客服工单里「答非所问」翻倍;无黄金集回归,质量塌方靠人工偶然发现。

识别要点

AI 变更与发版同级:制品版本化、黄金集卡点、工具副作用分级。静默失败比抛异常更危险。

止血与复盘

值班顺序:①冻结扩量/回滚制品版本 ②跑黄金集 diff ③看工具调用副作用审计 ④补评测门禁再放量。互链 G07 / M14.01。

K07.02
索引切换未双跑导致召回塌方
事故叙事

索引全量切换后召回率骤降,无双跑对比,客服工单滞后发现。

识别要点

索引变更要双跑/影子对比与黄金集卡点。

止血与复盘

止血:切回旧索引;复盘:双跑门禁。互链 G07 / K07.01。

K07.03
评测集过拟合上线仍翻车
事故叙事

黄金集分数很高,真实流量质量塌方——集与分布脱节或被「刷分」。

识别要点

看:集外抽样、影子流量、线上反馈是否同向。

止血与复盘

止血:回滚 Prompt/索引;复盘扩集与防刷分。互链 G07.05。

识别升级:对照变更单、预算板、拓扑单点与联合预算表,避免只重启当根治。

复盘产出:补门禁字段、演练记录、平台债票;同类问题进季度抽检。

K07.04
线上 Prompt 热改无版本
事故叙事

无法回滚到已知好版本。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看制品库。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:切回上一版本;复盘版本化。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K07.05
工具副作用未分级
事故叙事

只读工具与下单工具同权。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看分级表。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:关高危工具;复盘分级。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K07.06
成本突增无熔断
事故叙事

账单异常后才发现。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看配额。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:降级/限流;复盘配额门禁。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K07.07
影子流量对比缺失
事故叙事

灰度无对照,质量问题后知后觉。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看影子任务。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:扩对照;复盘门禁。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K07.08
评测集被业务刷题
事故叙事

为过门禁改评测而非改模型。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看变更。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:冻结发布;复盘防刷分。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K07.09
模型别名未固定致质量静默漂移
事故叙事

调用侧写的是供应商的模型别名(浮动名)而非 pin 到具体版本快照;供应商侧静默换版后,输出风格、指令遵循度、结构化字段成功率与单位 token 成本同时漂移。本地没有变更单、没有制品版本、也没有可回滚目标——发布记录全绿,质量塌方只能从工单与成本曲线倒推。

典型后果:静默质量劣化被当成「模型正常波动」,缺陷累积数周才暴露,且无法用回滚收敛。

识别要点

四个同向信号:① 同一 Prompt、同一入参的输出指纹(首 token 分布、结构化字段漂移率、拒答率)偏离上周基线,而代码零变更;② 单位成本变化而非总量变化(换版常伴随计费口径或推理长度改变);③ 供应商 changelog / 状态页出现未订阅的版本更新;④ 评估回归分数在无发布日下降。

先分区归因(变更/依赖/容量/数据/配置);其中「依赖」侧漂移最易被误判为「模型正常波动」,须先用输入指纹证明输入未变,再怀疑模型侧。

止血与复盘

止血顺序:① 切回上一已知 snapshot(若从未 pin 则临时指定一个固定版本)② 打开输出指纹与结构化字段兜底校验告警 ③ 对高价值链路加规则兜底,避免静默劣化继续放大。互链 G07 / K07.04 / K07.01 / M14.01。

复盘产出:模型版本纳入制品管理(生产 pin 具体 snapshot,别名只用于预发探路);输出指纹、拒答率、单位成本纳入与发版同级卡点;订阅供应商变更通告并进变更日历;同链路换版走影子双跑 + 黄金集卡点。

八、K08 安全应急踩坑

安全应急踩坑组:密钥/依赖漏洞应急与轮换踩坑、证书到期告警无 Runbook、临时豁免过期未收回、共享超级账号、临时防火墙忘收、密钥进仓库历史、CVE 豁免无到期阻断、证书监控只告警不跑通轮换。应急先缩权限与轮换密钥,再补审计与自动阻断。

K08.01
密钥/依赖漏洞应急与轮换踩坑
事故叙事

CVE 紧急升级跳过最小回归导致启动失败;密钥轮换无双密钥窗口,全球鉴权失败;依赖漏洞修复后 SBOM 未更新,二次排查找不到版本。

识别要点

密钥必须可轮换(双密钥窗口);供应链可追溯(SBOM/签名);CVE 快车道仍要最小回归与可回滚镜像。

止血与复盘

值班顺序:①定级(泄漏/CVE/证书到期)②双密钥或回滚镜像止血 ③补最小回归再抬升 ④更新 SBOM 与吊销演练记录。互链 G08 / M10。

K08.02
证书到期告警未绑定 Runbook
事故叙事

证书到期告警响了但无人知如何轮换,临期才发现双密钥窗口未准备。

识别要点

告警不可行动等于没有告警;证书轮换要有双密钥窗口。

止血与复盘

止血:紧急双证书/回滚;复盘:告警绑 Runbook。互链 G08.02。

K08.03
临时豁免过期未收回
事故叙事

CVE/权限临时豁免到期未自动阻断,长期带病运行。

识别要点

看:豁免单截止日、自动阻断是否生效、责任人是否在岗。

止血与复盘

止血:立刻收回豁免或补丁;复盘到期自动阻断。互链 G08.04。

识别升级:对照变更单、预算板、拓扑单点与联合预算表,避免只重启当根治。

复盘产出:补门禁字段、演练记录、平台债票;同类问题进季度抽检。

K08.04
共享超级账号登录生产
事故叙事

事故无法追责到人。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看审计。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:吊销共享号;复盘个人账号。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K08.05
临时防火墙规则忘记收回
事故叙事

攻击面长期扩大。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看规则到期。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:收回;复盘到期自动删。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K08.06
密钥进仓库历史
事故叙事

即便轮换,历史提交仍泄露。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

扫仓库。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:轮换+清理历史策略;复盘扫描门禁。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K08.07
CVE 豁免无到期自动阻断
事故叙事

带病运行数月。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看豁免单。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:补丁或收回;复盘 G08.04。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。

K08.08
证书监控只告警不跑通轮换
事故叙事

临期才会发现流程不通。

典型后果:故障面扩大、排障空转、或静默资金/体验缺口。

识别要点

看演练。

先分区归因(变更/依赖/容量/数据/配置),再下钻证据链。

止血与复盘

止血:紧急双证;复盘演练。

复盘三问:门禁为何没拦住、演练为何没暴露、下次抽检看什么。