B4.16.3Instrumental and Agentive Interaction设计研究
委托同时转移了控制与责任,其边界必须在委托前说清
别名: 控制权转移 · 责任边界 · 委托边界
概念解释
用户把目标交给代理式系统时,交出的不只是操作量:系统获得了决定步骤的控制权,也接下了「做错由谁负责」的责任位置。委托的边界——允许动什么、花钱上限、不可逆操作的许可——必须在委托发生之前可见,事后补说明无法改变责任已被默认转移的事实。
机制
委托形成一种授权关系:用户基于对边界与能力的预期交出控制,系统在边界内自由行动。边界模糊时,用户无法预判风险,也无法在结果不良时区分「目标定错了」与「代理越权了」,责任归属随之失焦;而一旦用户发现系统做了未授权的事,信任损失会外溢到后续所有委托。
怎么研究
实验可操纵委托说明的时机与明确度:委托前给出权限清单、委托后才揭示、或从不说明,测量用户授权意愿、对越权行为的检出率与追责归因。日志研究可统计真实产品中被用户中途叫停的步骤,定位边界预期与系统行为的偏差。
边界
「说清边界」不等于更长的法律条款:说明的有效性取决于用户在委托前是否真正读到并理解,堆砌免责文本不改善责任结构。可逆操作的边界可以宽,不可逆、涉及他人或资金的委托需要显式许可。该结论针对人—系统委托,与组织流程中的职责划分不等同。
怎么落地
- 委托入口处列出权限清单:可读取的数据、可执行的操作类型、花费/数量上限,并要求显式确认才生效。
- 把不可逆或有外部影响的操作设为独立许可,不在总授权中打包。
- 代理行为越界时立即停止并回滚到委托前状态,同时报告越界内容。
- 验收时模拟越权场景,确认系统会被拦截、用户能说清「系统不许做什么」。