X3.02.1Capability boundary communication设计研究
能做什么与不能做什么同等重要
别名: 能力边界 · 负能力说明 · capability limitation
概念解释
能力边界表达(capability boundary communication)同时说明机器人能稳定完成的任务,以及在哪些对象、环境、速度、权限或不确定性下不应执行。功能清单只描述成功区域;限制条件帮助人判断一个新情境是否仍在可用范围内,并决定何时接管或拒绝委派。
机制
人倾向从成功案例概括规则,而宣传和演示又集中展示分布中心,导致能力模型向外扩张。失败边界若只藏在说明书中,现场决策时无法进入工作记忆。把限制与相关动作、感知或环境条件绑定,能把“它不行”转化为可诊断的适用域,而不是不可预测的偶然故障。
怎么研究
可让参与者在正常与边缘案例中决定是否委派,测量能力判断、拒绝准确率、过度依赖、未充分使用和失败后的迁移。应同时评估高估与低估,并区分记住限制文字与在情境中应用限制。边缘案例需来自现场日志和工程失效分析,而非研究者凭空设计。
边界
不能把所有罕见情况列完;边界表达需提供可推广的变量和触发条件。能力也会随软件、载荷与环境更新,静态说明可能过期。高风险系统中,用户理解限制并不把安全责任转移给用户,技术性保护仍必须存在。
怎么落地
- 用“对象/环境/动作/置信条件”写能力范围,同时给出不可接受条件与安全替代。
- 在用户准备委派的时刻显示相关限制,而不是只在入门页集中罗列。
- 用未见过的边缘案例测试用户是否正确委派;追踪高估、低估和限制更新后的旧模型残留。