L5.03.2overtrust and undertrust设计研究

过度信任与不足信任都是失败

别名: 过度信任 · 信任不足 · miscalibrated trust

概念解释

邮箱自动补全一次都没被核对,寄出了错误地址——信任高过可靠度。同一套其实很稳的单据识别,会计每张都重打一遍——信任低于可靠度。过度信任和不足信任都是校准失败(overtrust and undertrust)。一个把错放出去,一个把对的能力闲置并付核对成本。

目标仍是匹配。失败有两侧,不是只有「太信」这一侧。

机制

匹配误差有符号。正误差(信过头)关掉检查,错误进入外发渠道;负误差(信不够)打开多余检查,时间花在本可交托的步骤上。两侧的损失形态不同,所以产品里常常只看见一侧:外发事故上新闻,重复核对记在「认真」的名下。Lee 与 See 的校准图把两条偏离都画成问题,不是把信任当单调越好的量表。

界面激励也偏一侧。采纳率、点击「应用建议」、减少点击次数,都奖过度信任。核对时间很少进仪表盘,不足信任看起来像功能没被爱用,会被继续加大说服,而不是承认校准已经偏到另一侧。

怎么研究

在已知可靠度的任务上,同时记漏检(该查没查)和多余核对(不该查还在查)。自变量:建议的呈现强度、是否显示基率、核对成本是否可见。因变量:两类错误的计数、总时间、外发错误。

只报采纳率会把不足信任和过度信任叠成一个数。必须分侧。

边界

高后果且可靠度未经充分测量时,宁可先偏不足——那是风险管理,不是把不足宣布为成功。可靠度接近百分之百、失败几乎不可逆的场景里,过度信任的代价主导,两侧不再对称。这条只断言两侧都是失败;连续成功如何把人推过高、不足如何表现为核对成本,是另一组动态。

怎么落地

  • 仪表盘同时报:未经核对就外发的条数,以及核对后未改一字的条数。两侧都设阈值。
  • 不要用「提高采纳」作为解释或建议功能的唯一成功标准。
  • 对已经过度核对的任务,减少说服性文案,改为出示「最近一百次里核对未改动」的比例,让不足有数据可降。
  • 验证:抽一天的日志,把每条输出标成漏检或多余核对。若产品只在讨论其中一侧,校准被做成了单边运动。

延伸

  • 同组L5.03.1 目标是信任与实际可靠度匹配 · L5.03.3 校准需要暴露失败而非隐藏失败
  • 相邻L5.09 过度信任与信任崩塌 · L5.04 信任的崩塌 · L4.02 自动化偏见
  • 站内检索overtrust · undertrust · miscalibrated trust

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/L5.03.2