误报代价不仅是响应成本,还包括对真实报警的信任流失
别名: 误报信任成本 · alarm trust · trust calibration
概念解释
一条误报造成的代价,不只是当时打断工作、跑去现场检查、甚至临时停机这些看得见的直接成本,还包括对整个报警通道信任度的持续损耗,也就是信任校准(trust calibration)出了偏差。这条讨论的是误报的代价究竟有哪些种类、哪一种更贵,脱敏这个心理机制本身怎么形成、该怎么从工程上降低误报率、危害什么时候才显现,分别是同组另外三叶的内容。当某个报警来源长期缺乏预测价值之后,操作员会调低对它的权重,这个调整会一路带到后面某次真正的报警上,让那次真实报警需要更多额外证据操作员才愿意行动。
机制
信任不是一个固定不变的属性,而是操作员对这个报警来源可靠不可靠、好不好理解、背后动机是什么这三方面持续做出的动态估计。一次代价特别高的误报,对信任的打击可能比十次影响很小的误报加起来还要大,因为代价大小本身也是判断"这个来源值不值得相信"的一条线索。更麻烦的是,如果工程上已经把某个误报源头修好了,但系统没有把这个变化明确告诉操作员,旧的低信任经验会一直延续下去——操作员没有理由知道情况已经变了,只能继续用老经验判断。
边界
信任并不是越高越好,真正该追求的是信任校准得准,也就是信任程度要和这个来源实际的可靠程度相匹配;对一个本身还不太确定的检测手段保持一定程度的核验习惯,反而可能是正确的策略,不应该被当成需要消除的"信任不足"。另外,用问卷或者访谈得到的态度评分,跟操作员在真实场景下的实际响应行为经常对不上,不能拿态度评分直接替代行为观测去下结论。
怎么落地
在评估一次误报的时候,同时记录打断了多长时间、引发了什么样的检查动作、对生产造成了什么影响,以及这次误报之后操作员对后续真实报警的响应有没有受到影响,而不是只统计误报发生的次数。工程上修好某个误报源之后,要主动把触发逻辑的变化和验证结果告诉操作员,不能默默地改完就算完事。验证信任是否校准准确,要用真报警和误报混合出现的场景,观察操作员的响应强度是不是真的和当前的实际可靠度相匹配。