X4.08.1Autonomy–responsibility alignment设计研究

自主等级与责任分配需一致

别名: 自主责任一致性 · 权责匹配 · responsibility alignment

概念解释

自主—责任一致性(autonomy–responsibility alignment)要求承担结果责任的角色,拥有与之相称的目标权、信息、介入手段、时间和能力。系统不能一方面自动选择并执行关键动作,另一方面仅因现场有人“监督”就把全部失败责任归给对方。

机制

责任通常以谁能预见、影响和避免后果为基础。自主功能改变了人的控制因果链:决策速度可能超过反应,输入可能被自动覆盖,关键证据可能不可见。若组织仍沿用手动操作时期的责任表,名义责任与实际可控性分离,既无法公平问责,也削弱系统缺陷的反馈。

怎么研究

可用具体事件情景操纵目标设定、决策、执行、可见性和介入时间,测量不同角色的责任判断、实际可预防性与组织处置。应结合日志分析而非只做道德直觉问卷。跨司法辖区的法律归责需要专业核验,研究结论不能直接替代法律意见。

边界

一致性不意味着责任只能由一方承担,制造者、部署者、管理者和操作者可能分别控制不同风险。人的错误输入仍可能构成因果贡献。界面改善也不能自行决定法律责任,但能提供实际权限与证据。

怎么落地

  • 按功能列出谁设目标、谁选择、谁执行、谁能阻止、谁维护,并对应失败后果。
  • 若角色被要求负责,验证其在最差条件下确实能获得信息并及时避免后果;否则重新分配权限或责任。
  • 用事故桌面推演比对书面责任、实际控制链和日志证据,修正不一致。

延伸

  • 同组X4.08.2 名义监督不构成实际控制 · X4.08.3 事故记录需可追溯决策来源
  • 相邻X4.01 自主等级 · X3.07 决策依据的可解释
  • 站内检索responsibility alignment · meaningful human control · accountability

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/X4.08.1