L4.09.1skill degradation under automation设计研究

长期依赖自动化会削弱人的能力

别名: 技能退化 · deskilling · Bainbridge 讽刺

概念解释

人把某类判断和操作交给机器足够久,自己做这类事的准确、速度和手感会掉。Bainbridge 把这写成自动化的讽刺之一:系统越能干,人越被从练习里拿开,而故障时偏偏要人出手。技能退化(skill degradation)是能力本身变弱,不是这一班没盯屏幕。

还能说出步骤、手已经不跟,是退化的典型样子。

机制

技能靠带反馈的重复维持。自动化把带反馈的重复收走,留下的是偶尔的监督。陈述性知识(步骤清单)比程序性知识(手怎么动、异常长什么样)活得久,所以人以为自己「还会」,测的时候不会。监督控制把人放在管理者位置上,管理者不练操作,操作就从熟练退回生疏。这和自满不同:自满是监控采样变稀;退化是即使在看、叫他做,质量也不如从前。

生成式代理把写作、分类、排查也自动化之后,退化从驾驶舱走进知识工作:人不再写那种信、不再走那种对账,一旦要亲手写,结构先散。

怎么研究

训练到熟练,然后一组继续手动、一组改用自动化,经过一段不用手的时间再测手动成绩。自变量:脱离练习的时长、自动化期间有无间歇手动、任务是否含异常。因变量:正确率、时间、错误类型(步骤遗漏 vs. 手感误差)、主观「我还以为我会」。

关键是测手动成绩,不是测监督成绩。自满实验测的是发现故障;退化实验测的是自己做。

边界

本就会的、低频且有外部清单可撑的任务,退化慢。刚学会就交给自动化,退化快,因为熟练从未形成。监控变懒可以在技能仍在时发生,两条曲线独立。退化是不是要到接管才被看见,以及要不要留手动路径,是后两条。

怎么落地

  • 对产品所替代的核心技能,标出「多久不练会掉」的假设,并用实际班次数据去修,不要假设技能会自己保鲜。
  • 自动化报告里不要只用吞吐,要定期抽测一次全手动成绩,当作技能库存。
  • 验证:找一组已经把某任务交给代理三个月的人,关掉代理让他们亲手做同样的异常件。成绩相对培训期末掉了,退化就在发生。主观「我还记得」不能当库存。

延伸

  • 同组L4.09.2 退化在需要接管时才暴露 · L4.09.3 保留手动路径有长期价值
  • 相邻L4.03 自动化自满 · L4.04 接管与移交设计 · L4.01 自动化层级
  • 站内检索skill degradation · deskilling · ironies of automation

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/L4.09.1