X3.07.1Decision traceability设计研究
关键决策需要能追溯到其所依据的输入与规则
别名: 决策可追溯性 · 审计链 · provenance trace
概念解释
决策可追溯性(decision traceability)使关键机器人动作能够关联到当时的传感输入、估计状态、适用约束、模型或规则版本和最终执行命令。它不同于事后生成一段听起来合理的理由;可追溯记录必须来自真实决策链并能被复核。
机制
自主行为跨越感知、融合、规划与控制,最终结果相同可能源自不同中间判断。若只记录动作,调查者无法分辨输入缺失、模型错误、规则冲突或执行偏差。带时间戳与版本的因果链保留当时可用证据,防止系统更新后用新状态重构旧理由。
怎么研究
可通过事故重放和故障注入检验独立人员能否从记录定位决策点、重现输出并区分替代原因。指标包括重现率、定位时间、缺失字段和不同审查者一致性。日志本身应测试时钟漂移、丢包与篡改检测,不能默认记录层永远可靠。
边界
完整保存原始感知会带来存储、隐私和安全风险,应按后果选择粒度、保留期和访问权。复杂学习模型可能无法给出简单规则,但仍可记录输入、版本、置信、约束和候选动作。可追溯性支持问责,不自动证明决策合理。
怎么落地
- 为高后果动作定义最小审计包:同步输入摘要、状态估计、约束、版本、候选与执行结果。
- 使用统一时钟和不可混淆事件标识,并让记录链在断网与重启后可续接。
- 定期抽取事件由非开发人员重放,统计无法重现和无法解释的环节,按严重度修补。