X3.02.3Behavioural capability disclosure设计研究
边界需通过行为而非说明书传达
别名: 行为化边界表达 · 能力示范 · just-in-time limitation
概念解释
行为化能力披露(behavioural capability disclosure)让机器人在接近能力边界时,通过减速、拒绝、请求确认、示范感知范围或进入保守模式表现限制。说明文字仍有作用,但边界若只存在于说明书,就与实际委派情境、对象和时间脱节。
机制
情境中的行为同时提供条件、后果与替代行动,比脱离任务的抽象规则更容易被编码和回忆。稳定拒绝还能阻止用户通过反复尝试把偶然成功理解为支持。相反,系统静默失败或有时接受同类请求,会使边界看似随机,迫使人探索性试错。
怎么研究
可比较说明书、情境提示、行为拒绝及组合条件,在新边缘案例中测量正确委派、回忆、绕过尝试、恢复和长期保持。行为条件必须保持能力一致,避免“更安全版本”本身更可靠。拒绝理由和替代方案可分别操纵,以识别哪部分支持迁移。
边界
用户不应为了学习边界而遭遇危险失败,行为披露必须在安全状态发生。频繁保守拒绝会造成低估和绕过;复杂法律或维护限制仍需可查文档。机器人也不能假装通过表情“害怕”来掩盖具体传感或控制限制。
怎么落地
- 在任务提交时检查对象、环境和置信条件,越界即在动作开始前拒绝并说明可改变的条件。
- 用可见减速、停在边界外和请求确认表现不确定,而不是先尝试再静默停住。
- 用未训练的新案例测试用户能否从一次行为推断到同类限制,同时监测过度拒绝造成的能力低估。