L4.09.2skill loss shows only at takeover设计研究

退化在需要接管时才暴露

别名: 接管时才发现不会了 · latent deskilling · 日常看不见的退化

概念解释

日常里自动化在干活,人的成绩单是绿的,退化没有显示器。直到机器做不下去、人必须上手,成绩单才第一次变红。退化在接管时暴露(skill loss shows only at takeover)指出观测窗口的错位:库存是在最难、最少练习的那一拍被盘点的。

培训期末的熟练,和三年后第一次故障时的生疏,中间没有警报。

机制

成功路径不要求人做,失败路径才要求人做——还偏偏是机器的失败样本,比平均任务更难。于是测量发生在分布的尾部,练习发生在被自动化删掉的中部。人在日常中获得的反馈是「系统很稳」,不是「我还做得如何」。自满让人少看;退化让人即使看了也不会做。两者常在接管那一拍叠在一起:没在看,且不会做。

产品若只在失败时叫人,等于把技能体检安排在病人已经倒下的时候。

怎么研究

长期自动化之后,比较两类测验:日常监督成绩(发现故障、点确认)与突然接管的手动成绩(自己完成异常件)。自变量:上次手动距今多久、接管是否伴随惊吓、异常是否在训练分布内。因变量:两类成绩的差、人是否惊讶于自己不会、接管后错误持续多久。

差才是这条的量。监督成绩好、手动成绩差,就是暴露被推迟了。

边界

每天都有一段必须手动的班次,暴露不会被推迟到故障。纯建议级系统人本来就在做,退化慢,暴露也早。技能是否在掉,是前一条;这里只处理「什么时候看得见」。留不留手动路径是后一条的处方。

怎么落地

  • 不要用日常的确认率和故障发现率当技能证明。单独安排不提前宣布的手动抽检,抽在异常件上,而不是抽在机器会的简单件上。
  • 接管演练要按失败样本出题,并记录「人以为自己会」和「实际会」的差。差被当作品质信号,不是当成人的丢脸。
  • 验证:在无故障的月份做一次突然手动抽检。若抽检成绩显著差于培训期末,而日常仪表全绿,暴露就已经被推迟。等到真故障再测,测到的是叠加了惊吓的尾部,不能当基线。

延伸

  • 同组L4.09.1 长期依赖自动化会削弱人的能力 · L4.09.3 保留手动路径有长期价值
  • 相邻L4.04 接管与移交设计 · L4.03 自动化自满 · L4.01 自动化层级
  • 站内检索latent skill loss · takeover · ironies of automation

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/L4.09.2