L4.04.6handoff at loss of grip is peak complexity设计研究

系统在失去把握时才移交,而那正是情境最复杂的时刻

别名: 最难时才交出来 · automation hands off at the hard moment · 能力边界上的移交

概念解释

自动化不是在轻松段落把工作交还人练手,而是在自己做不下去的时候把工作扔回来。Bainbridge 早就写过这层讽刺:人被留下的,是设计者自动化不了的残余。失去把握时才移交(handoff at loss of grip)指出一个耦合:交权原因(机器不行了)与情境难度(正是最乱的时候)绑在一起。

人接到的不是平均任务,是机器的失败样本。

机制

能力边界上的情境通常叠了多种异常:对象不标准、工具报错、外部世界已经被改了一部分。监督控制把简单段交给机器,人的技能和情境模型都在简单段里衰退;真正要人出手时,任务分布已经偏到训练分布之外。这和「突然」不同:即使预告充分、摘要完整,任务本身仍比机器刚才轻松完成的那些更难。突然性是时序,这里是难度选择偏差。

产品如果只在失败时叫人,等于用人当异常处理器,却按正常任务来估人的准备。

怎么研究

比较两类交权:随机抽一段让人接手(含成功中段),以及只在系统失败时接手。因变量:接手后完成质量、时间、主观难度、是否要求更多上下文。自变量:失败类型(权限、歧义、部分已执行)、人在失败前是否见过类似成功段。

训练研究可以让人在成功段里定期接手,再测失败段成绩——用来检验「只在失败时见面」是否在伤害失败时的表现。

边界

系统在仍有把握时主动交还(可调层级、练手模式)会打破这个耦合,那是有意的。完全不移交、失败就停住等专家,也不把人丢进最难一拍。技能退化是长期依赖的后果,是这条选择偏差的成因之一,但机制不同。这里不讨论交权是否突然。

怎么落地

  • 不要只在失败路径上设计人的工作位。在成功路径上安排可抽查的接手,让人见过「正常是什么样」,失败时才有对照。
  • 失败移交要按「难于平均任务」加料:更多上下文、更长窗口、更明确的已生效动作,而不是复用正常确认框。
  • 验证:分别统计成功中段接手和失败接手的完成时间与错误。若失败接手显著更差,而产品却用同一套交权界面,就是在用平均任务估极端任务。把成功段接手加进日常,再测一次失败成绩——成绩升了,说明耦合可以被练习打断。

延伸

  • 同组L4.04.1 移交需要充分的情境重建时间 · L4.04.2 移交时的系统状态需完整交代 · L4.04.3 突然移交是最危险的形式 · L4.04.4 移交质量取决于交出方是否交代了为什么会走到当前状态 · L4.04.5 人重建情境所需的时间是硬约束,不能被压缩为零 · L4.04.7 移交后责任立即转移,这一转移应由接管者确认而非默认成立 · L4.04.8 反向移交同样需要设计,人交回系统时须说明自己改变了什么
  • 相邻L4.09 技能退化 · L4.13 代理的失败上报与求助 · L4.01 自动化层级
  • 站内检索ironies of automation · handoff at failure · residual task

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/L4.04.6