L4.15.1users rarely know their automation tier设计研究
自动化程度决定责任分配,但用户通常不知道自己当前处在哪一档
别名: 不知身处哪一级 · opaque LOA · 责任在暗处
概念解释
层级在尺子上决定出错算谁的。操作者若读不出自己此刻停在建议、批准后执行还是已经在跑,责任分配就发生在暗处:人按建议级的心态点头,系统按执行级记责。用户通常不知道当前档(users rarely know their automation tier)把可追溯的第一道裂缝放在意识上——不是条款没写,是现场没人能指着说「现在是这一档」。
产品用「AI 助手」一个名字盖住三档,裂缝是设计出来的。
机制
Parasuraman 的四段可以分别处于不同级,界面却常用一个状态灯。人用最近一次体验来猜当前级:刚才还在问我,于是以为还在问;其实这一步已经自己发出去了。归责条款按实际权限走,心态按猜测走,出事时两边对不上。可调层级若存在但当前档不可见,人无法行使拨级,也无法拒绝「我没接过这一档的责」。
层级决定责任,是尺子上的对应。这里是对应在现场失明。失明时,事后日志写得再全,也补不回当时那个人以为自己在哪一档。
怎么研究
同一产品里塞进建议段和执行段,不标档。任务中途探询「这一步是谁做的、出错算谁」。因变量:档判断正确率、责任百分比与实际权限的差、是否在该停的时候没停。自变量:是否显示当前档、档是否随步变化、文案是否用同一品牌名。
档判断错误且责任仍被人认领,是最危险的组合。
边界
完全手动或完全自主且对外声明机器担责,档是清楚的。自适应改级而不显示,会周期性制造失明。交接班时的责任钟是另一时刻;这里是日常运行中的档意识。追溯要记输入和依据,记的是事件;档意识是事件发生时人有没有对齐。
怎么落地
- 每一步可见当前档:建议 / 等人放行 / 正在执行。档随步变时必须变显示,不许用一个总灯。
- 从建议跨到执行,要换一种不可忽略的状态,不能只改内部权限。
- 验证:中途问「这一步出错算谁的、你现在能不能让它停」。两个答案与实际权限不一致,档就还在暗处。把档标上再问——仍不一致,标的方式和权限还没对上,不是字号问题。