L4.15.1users rarely know their automation tier设计研究

自动化程度决定责任分配,但用户通常不知道自己当前处在哪一档

别名: 不知身处哪一级 · opaque LOA · 责任在暗处

概念解释

层级在尺子上决定出错算谁的。操作者若读不出自己此刻停在建议、批准后执行还是已经在跑,责任分配就发生在暗处:人按建议级的心态点头,系统按执行级记责。用户通常不知道当前档(users rarely know their automation tier)把可追溯的第一道裂缝放在意识上——不是条款没写,是现场没人能指着说「现在是这一档」。

产品用「AI 助手」一个名字盖住三档,裂缝是设计出来的。

机制

Parasuraman 的四段可以分别处于不同级,界面却常用一个状态灯。人用最近一次体验来猜当前级:刚才还在问我,于是以为还在问;其实这一步已经自己发出去了。归责条款按实际权限走,心态按猜测走,出事时两边对不上。可调层级若存在但当前档不可见,人无法行使拨级,也无法拒绝「我没接过这一档的责」。

层级决定责任,是尺子上的对应。这里是对应在现场失明。失明时,事后日志写得再全,也补不回当时那个人以为自己在哪一档。

怎么研究

同一产品里塞进建议段和执行段,不标档。任务中途探询「这一步是谁做的、出错算谁」。因变量:档判断正确率、责任百分比与实际权限的差、是否在该停的时候没停。自变量:是否显示当前档、档是否随步变化、文案是否用同一品牌名。

档判断错误且责任仍被人认领,是最危险的组合。

边界

完全手动或完全自主且对外声明机器担责,档是清楚的。自适应改级而不显示,会周期性制造失明。交接班时的责任钟是另一时刻;这里是日常运行中的档意识。追溯要记输入和依据,记的是事件;档意识是事件发生时人有没有对齐。

怎么落地

  • 每一步可见当前档:建议 / 等人放行 / 正在执行。档随步变时必须变显示,不许用一个总灯。
  • 从建议跨到执行,要换一种不可忽略的状态,不能只改内部权限。
  • 验证:中途问「这一步出错算谁的、你现在能不能让它停」。两个答案与实际权限不一致,档就还在暗处。把档标上再问——仍不一致,标的方式和权限还没对上,不是字号问题。

延伸

  • 同组L4.15.2 可追溯要求同时记录输入、决策依据与执行结果,缺一即无法复盘 · L4.15.3 日志需保留到追责可能发生的时点,而非仅按调试需要保留 · L4.15.4 把最终确认交给人不等于责任已合理转移,人须具备拒绝的条件 · L4.15.5 多个系统串联时责任链会断在接口处,各段边界须事先划定
  • 相邻L4.01 自动化层级 · L4.04 接管与移交设计 · L1.09 人在回路的介入点
  • 站内检索levels of automation · accountability · mode awareness

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/L4.15.1