O3.05.3False-alarm control before warning escalation设计研究
减少误报优先于加强措辞
别名: 安全警告误报 · 信号校准 · false alarm reduction
概念解释
先控制误报再升级警告（false-alarm control before warning escalation）要求先提高触发信号与真实风险的对应关系，再考虑更强颜色、语气或阻断。若用户在多数警告后安全继续，经验会合理地降低其对未来警告的信任；把文案改得更吓人不会修复低阳性预测价值。
机制
用户从结果学习警告是否值得响应。误报频繁时，遵从带来确定的任务损失，忽略却常无事发生，长期强化了绕过。检测团队可能只优化召回率，把大量边缘事件交给人类分类；界面团队则以强措辞弥补。两者共同把模型不确定性变成人的重复劳动，并消耗真正事件所需的注意信用。
怎么研究
按触发规则统计真实风险、误报、漏报与基率，并在纵向任务中测量不同误报比例下的信任校准和正确响应。比较调整阈值、后台自动处置、合并提示与加强措辞的净效果，包含安全损害、合法任务阻断和调查成本。不能只在恶意样本集中算准确率；真实低基率会显著改变警告价值。
边界
减少误报不能以隐藏高损害但难检测的风险为代价；有时宁可容忍更多中断，也不能漏掉灾难性事件。此时可分层、增加系统限制或转交专业人员，而非假装信号精确。对用户而言“误报”还包括技术上异常但没有可行动选择的提示。
怎么落地
- 为每个警告记录触发证据、真实事件确认、用户动作与最终后果，持续估计运行时预测价值。
- 将低置信事件转为非模态提示、后台隔离或专业复核，把强阻断保留给高后果且证据充分的情况。
- 在改文案前审查触发阈值、重复事件合并和安全默认能否消除不必要提示。
- 同时设漏报与合法任务成本护栏，防止仅为改善点击指标而关闭重要检测。