C9.06.7Trust erosion as false-positive cost设计研究
误报代价的评估需要包含用户信任流失这类长期成本,不只是单次错误后果
别名: 狼来了 · 信任流失 · 长期误报成本
概念解释
一次假阳性的即时代价是被打断、被吓到、或多点一次取消。把它加总仍会低估:用户开始不信下一次警报,权限被关,通道在真正需要时已经不在。信任流失是误报的延迟成本,出现在重复之后,不出现在单次混淆矩阵里。
机制
警报研究里的狼来了效应(cry-wolf effect)描述的是:重复虚报降低后续响应速度和响应概率。生理通道上还多一截:身体被系统说错,会变成对自我判断的干扰(「表说我压力大,也许我该休息」),或变成对设备的敌意。信任是对未来警报似然的主观估计,假阳性把它往下拉;降到某一点,理性策略是忽略或卸载。单次错误的医疗或操作后果可以很大,但消费场景里更常把人推过这个忽略阈值。长期成本还包含团队为挽留用户而做的补偿(礼品、客服),它们很少进模型评估。
怎么研究
纵向设计:在数天到数周里控制虚报率,测响应时、响应率、权限关闭、以及「下次还会理它吗」的评分。自变量:虚报密度、是否有事后解释。因变量:生存分析里的通道死亡时间、真实事件上的漏响应。单次实验室任务没有时间让信任衰减,会把误报写成可忽略的摩擦。把「卸载」和「关掉通知但还戴着」分开计,后者是静默的信任死亡。
边界
用户没有退出权的场所(病房、车间)里,信任流失表现为合规性下降和私下贴胶带盖扬声器,而不是应用商店评分。一次性的严重假阳性(错误急救呼叫)可以单独摧毁信任,不必等重复。也存在相反方向:长期零虚报但偶发漏报,会让人怀疑通道是否还活着。信任曲线因人而异,用均值会掩盖先卸载的那一批。
怎么落地
- 把「7 日、30 日权限仍开启」和「真实事件响应率」写进误报验收,而不是只看当天混淆矩阵。
- 为重复同类虚报设冷却和合并,避免用频率把人推过忽略阈值。
- 每次虚报后给一句可核对的原因,减缓归因到「设备乱说」。
- 验证:在灰度用户上提高一周虚报密度,看第二周真实事件的响应是否下降;下降就是信任成本,不是当周的单次后果。