X3.02.1Capability boundary communication设计研究

能做什么与不能做什么同等重要

别名: 能力边界 · 负能力说明 · capability limitation

概念解释

能力边界表达(capability boundary communication)同时说明机器人能稳定完成的任务,以及在哪些对象、环境、速度、权限或不确定性下不应执行。功能清单只描述成功区域;限制条件帮助人判断一个新情境是否仍在可用范围内,并决定何时接管或拒绝委派。

机制

人倾向从成功案例概括规则,而宣传和演示又集中展示分布中心,导致能力模型向外扩张。失败边界若只藏在说明书中,现场决策时无法进入工作记忆。把限制与相关动作、感知或环境条件绑定,能把“它不行”转化为可诊断的适用域,而不是不可预测的偶然故障。

怎么研究

可让参与者在正常与边缘案例中决定是否委派,测量能力判断、拒绝准确率、过度依赖、未充分使用和失败后的迁移。应同时评估高估与低估,并区分记住限制文字与在情境中应用限制。边缘案例需来自现场日志和工程失效分析,而非研究者凭空设计。

边界

不能把所有罕见情况列完;边界表达需提供可推广的变量和触发条件。能力也会随软件、载荷与环境更新,静态说明可能过期。高风险系统中,用户理解限制并不把安全责任转移给用户,技术性保护仍必须存在。

怎么落地

  • 用“对象/环境/动作/置信条件”写能力范围,同时给出不可接受条件与安全替代。
  • 在用户准备委派的时刻显示相关限制,而不是只在入门页集中罗列。
  • 用未见过的边缘案例测试用户是否正确委派;追踪高估、低估和限制更新后的旧模型残留。

延伸

  • 同组X3.02.2 一次成功会被推断为通用能力 · X3.02.3 边界需通过行为而非说明书传达
  • 相邻X3.03 忠于事实的表达 · X3.08 不确定性的表达
  • 站内检索capability boundary · operating envelope · appropriate reliance

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/X3.02.1