L5.09.3undertrust as rechecking cost设计研究

信任不足的表现是用户重复手工核对,其成本常被忽略

别名: 重复核对 · 信任不足成本 · shadow workflow

概念解释

翻译其实已经够用,编辑仍把每一句再丢进另一家引擎对一遍。表面上系统在被「使用」,账上却多了一整条影子工作流。信任不足表现为重复手工核对,这笔成本常被忽略(undertrust as rechecking cost)。

不足不是「没人点采用」。人可以天天点采用,然后在系统外再做一遍。

机制

核对发生在产品仪表盘看不见的地方:第二个窗口、纸、同事。采纳率因此看起来健康,时间却在重复劳动里。Lee 与 See 把不足画成校准失败的一侧;失败的损失是劳动,不是事故,所以事故报表不收录它。组织还会把重复核对表扬成严谨,成本被道德语言盖住。

不足往往有来历:早期一次小错、口碑、或从未被允许看见稳定表现。与「两侧都是失败」的定义不同,这里要看见的是具体形态——核对——以及它如何从账上消失。

怎么研究

在已知高可靠度的任务上,记录产品内操作与产品外核对(眼动、屏幕录制、自报、或要求留下核对痕迹)。自变量:是否展示长程命中、核对是否被组织表扬、切换核对工具的摩擦。因变量:产品外核对次数、未改一字的核对占比、总完成时间。

未改一字的核对是这条的签名。没有这项,无法把「严谨」和「不足」分开。

边界

可靠度未经充分测量时,重复核对是理性,不是不足。高后果且失败不可逆时,核对成本可能被故意接受。用户把系统当学习工具(对照着学翻译)也不是不足。一次重创之后的核对是恢复过程,不是这条说的被忽略的稳态成本。

怎么落地

  • 把「采用后未改一字」和「采用后在系统外再处理」纳入成本,不要只看采纳率。
  • 对已经几乎不改的任务,出示「最近一百次核对未改动」的比例,让不足有数字可降。
  • 提供廉价的抽查而不是默许全量复跑:抽三句、对关键数字,而不是整篇再进另一引擎。
  • 验证:跟一天班,数影子工作流的分钟数。若采纳率很高而影子分钟也很多,不足在被当成使用成功。

延伸

  • 同组L5.09.1 合理的信任水平随任务与情境变化,不存在一个全局正确的信任度 · L5.09.2 连续的成功会把信任推高到超出系统实际可靠度的位置 · L5.09.4 展示典型失败案例能压低过度信任,代价是短期采纳率下降 · L5.09.5 信任由个人使用经验形成,无法靠声明与文档直接建立
  • 相邻L5.03 信任校准 · L4.02 自动化偏见 · L3.03 幻觉与事实核查负担
  • 站内检索undertrust · rechecking cost · shadow workflow

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/L5.09.3