X3.02.3Behavioural capability disclosure设计研究

边界需通过行为而非说明书传达

别名: 行为化边界表达 · 能力示范 · just-in-time limitation

概念解释

行为化能力披露(behavioural capability disclosure)让机器人在接近能力边界时,通过减速、拒绝、请求确认、示范感知范围或进入保守模式表现限制。说明文字仍有作用,但边界若只存在于说明书,就与实际委派情境、对象和时间脱节。

机制

情境中的行为同时提供条件、后果与替代行动,比脱离任务的抽象规则更容易被编码和回忆。稳定拒绝还能阻止用户通过反复尝试把偶然成功理解为支持。相反,系统静默失败或有时接受同类请求,会使边界看似随机,迫使人探索性试错。

怎么研究

可比较说明书、情境提示、行为拒绝及组合条件,在新边缘案例中测量正确委派、回忆、绕过尝试、恢复和长期保持。行为条件必须保持能力一致,避免“更安全版本”本身更可靠。拒绝理由和替代方案可分别操纵,以识别哪部分支持迁移。

边界

用户不应为了学习边界而遭遇危险失败,行为披露必须在安全状态发生。频繁保守拒绝会造成低估和绕过;复杂法律或维护限制仍需可查文档。机器人也不能假装通过表情“害怕”来掩盖具体传感或控制限制。

怎么落地

  • 在任务提交时检查对象、环境和置信条件,越界即在动作开始前拒绝并说明可改变的条件。
  • 用可见减速、停在边界外和请求确认表现不确定,而不是先尝试再静默停住。
  • 用未训练的新案例测试用户能否从一次行为推断到同类限制,同时监测过度拒绝造成的能力低估。

延伸

  • 同组X3.02.1 能做什么与不能做什么同等重要 · X3.02.2 一次成功会被推断为通用能力
  • 相邻X3.04 故障与求助 · X3.08 不确定性的表达
  • 站内检索behavioural disclosure · just-in-time limitation · capability refusal

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/X3.02.3