C9.06.7Trust erosion as false-positive cost设计研究

误报代价的评估需要包含用户信任流失这类长期成本,不只是单次错误后果

别名: 狼来了 · 信任流失 · 长期误报成本

概念解释

一次假阳性的即时代价是被打断、被吓到、或多点一次取消。把它加总仍会低估:用户开始不信下一次警报,权限被关,通道在真正需要时已经不在。信任流失是误报的延迟成本,出现在重复之后,不出现在单次混淆矩阵里。

机制

警报研究里的狼来了效应(cry-wolf effect)描述的是:重复虚报降低后续响应速度和响应概率。生理通道上还多一截:身体被系统说错,会变成对自我判断的干扰(「表说我压力大,也许我该休息」),或变成对设备的敌意。信任是对未来警报似然的主观估计,假阳性把它往下拉;降到某一点,理性策略是忽略或卸载。单次错误的医疗或操作后果可以很大,但消费场景里更常把人推过这个忽略阈值。长期成本还包含团队为挽留用户而做的补偿(礼品、客服),它们很少进模型评估。

怎么研究

纵向设计:在数天到数周里控制虚报率,测响应时、响应率、权限关闭、以及「下次还会理它吗」的评分。自变量:虚报密度、是否有事后解释。因变量:生存分析里的通道死亡时间、真实事件上的漏响应。单次实验室任务没有时间让信任衰减,会把误报写成可忽略的摩擦。把「卸载」和「关掉通知但还戴着」分开计,后者是静默的信任死亡。

边界

用户没有退出权的场所(病房、车间)里,信任流失表现为合规性下降和私下贴胶带盖扬声器,而不是应用商店评分。一次性的严重假阳性(错误急救呼叫)可以单独摧毁信任,不必等重复。也存在相反方向:长期零虚报但偶发漏报,会让人怀疑通道是否还活着。信任曲线因人而异,用均值会掩盖先卸载的那一批。

怎么落地

  • 把「7 日、30 日权限仍开启」和「真实事件响应率」写进误报验收,而不是只看当天混淆矩阵。
  • 为重复同类虚报设冷却和合并,避免用频率把人推过忽略阈值。
  • 每次虚报后给一句可核对的原因,减缓归因到「设备乱说」。
  • 验证:在灰度用户上提高一周虚报密度,看第二周真实事件的响应是否下降;下降就是信任成本,不是当周的单次后果。

延伸

  • 同组C9.06.1 假阳性与假阴性的代价不对称 · C9.06.2 阈值选择是产品决定而非算法决定 · C9.06.3 高后果动作不得由单一传感器判定 · C9.06.4 医疗警报场景通常宁可假阳性也要避免假阴性,消费场景常反之 · C9.06.5 代价不对称应体现为分类阈值的具体取值,而非仅停留在原则声明 · C9.06.6 同一传感器在不同功能上复用时,两个功能可能需要不同的误报容忍取向
  • 相邻C9.13 隐式推断的知情与纠正 · C7.08 误唤醒
  • 站内检索cry-wolf effect · trust erosion · alarm disablement

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/C9.06.7