X4.08.2Meaningful human control设计研究
名义监督不构成实际控制
别名: 实质人类控制 · 名义监督 · human-in-the-loop fallacy
概念解释
实质人类控制（meaningful human control）要求监督者能够理解相关状态、预见后果，并在有效窗口内改变或阻止动作。安排一个人在屏幕前、要求其签字或提供急停按钮，只证明形式上有人，并不证明他对具体决策拥有实际因果影响。
机制
控制能力由信息质量、注意负荷、时间、权限和动作可逆性共同决定。自动化可在几秒内处理大量事件，而监督者面对聚合或延迟信息；若介入窗口短于发现和制动，人类位置只是责任缓冲。名义监督还会让组织误以为风险已由人兜底，减少自动保护投入。
怎么研究
可对真实或模拟异常计算“可预防性”：监督者何时获得足够信息、何时能操作、操作何时物理生效。测量正确理解、反应分布、权限阻碍和最终避免率，而不只记录人在场。长时低事件和同时异常是必要条件。
边界
实质控制不要求人执行每个动作，也不否定高自主；它要求在被分配责任的层面存在真实能力。某些高速危险应由自动保护而非人负责。能力充分仍不意味着所有失败都应归责于操作者。
怎么落地
- 对每项“人工监督”声明写出所需信息、判断、入口、总延迟和可避免后果。
- 若在高分位人类反应与最差系统延迟下无法阻止，就删除“人工兜底”假设并增加自动保护。
- 用无人响应、注意转移和并发异常演练，审计人在场与实际可控性的差距。