X3.07.1Decision traceability设计研究

关键决策需要能追溯到其所依据的输入与规则

别名: 决策可追溯性 · 审计链 · provenance trace

概念解释

决策可追溯性(decision traceability)使关键机器人动作能够关联到当时的传感输入、估计状态、适用约束、模型或规则版本和最终执行命令。它不同于事后生成一段听起来合理的理由;可追溯记录必须来自真实决策链并能被复核。

机制

自主行为跨越感知、融合、规划与控制,最终结果相同可能源自不同中间判断。若只记录动作,调查者无法分辨输入缺失、模型错误、规则冲突或执行偏差。带时间戳与版本的因果链保留当时可用证据,防止系统更新后用新状态重构旧理由。

怎么研究

可通过事故重放和故障注入检验独立人员能否从记录定位决策点、重现输出并区分替代原因。指标包括重现率、定位时间、缺失字段和不同审查者一致性。日志本身应测试时钟漂移、丢包与篡改检测,不能默认记录层永远可靠。

边界

完整保存原始感知会带来存储、隐私和安全风险,应按后果选择粒度、保留期和访问权。复杂学习模型可能无法给出简单规则,但仍可记录输入、版本、置信、约束和候选动作。可追溯性支持问责,不自动证明决策合理。

怎么落地

  • 为高后果动作定义最小审计包:同步输入摘要、状态估计、约束、版本、候选与执行结果。
  • 使用统一时钟和不可混淆事件标识,并让记录链在断网与重启后可续接。
  • 定期抽取事件由非开发人员重放,统计无法重现和无法解释的环节,按严重度修补。

延伸

  • 同组X3.07.2 事后解释与实时解释对时效性的要求不同 · X3.07.3 过度技术化的解释对现场人员等同于没有解释 · X3.07.4 无法解释的决策在高风险场景中应触发保守默认行为
  • 相邻X4.08 责任归属 · X7.06 任务分配与调度的可见
  • 站内检索decision traceability · provenance · audit log

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/X3.07.1