群体的整体行为模式需要能被监督者归纳为可理解的规则
别名: 群体行为规则 · human-swarm transparency
概念解释
当监督对象是一个群体(swarm)而不是若干台可以逐一跟踪的独立机器人时,监督者需要能把群体的整体行为模式归纳为若干条可理解的规则(comprehensible rules),比如"整体朝目标移动同时保持队形""遇到障碍会分流绕过再重新聚拢",而不是把群体行为当作一堆不可预测的输出被动接受。
机制
这个需求成立的原因在于,人类监督者在群体规模超出个体追踪能力之后,认知上处理群体行为唯一可行的方式就是抽象归纳——把观察到的宏观模式压缩成几条简单规则存进心智模型,以此预判群体接下来大致会怎么行动。如果群体的实际行为无法被归纳成这样的简单规则,比如相同的初始条件在不同次运行中产生完全不同的宏观轨迹,监督者就失去了预判能力,只能靠被动观察当前画面来反应。这和情境意识里"预测未来"这一层的丧失,是同一类认知问题在群体场景下的表现——差别在于这里丢失的不是对单个对象状态的预测,而是对整个群体宏观走向的预测。一条规则要真正支持监督,还必须具备预测力,不能只是对当前画面的事后描述——"群体正在向东移动"是描述,"群体遇到障碍后会分成两股绕行再重新聚拢"才是预测性规则,只有后一类规则能让监督者在偏离真正发生之前就做好准备,前一类规则读起来"看懂了",实际上并不能支撑任何提前动作。
怎么研究
验证群体行为是否具备可理解性,常见做法是让监督者观察一段群体行为的录像或实时演示,再要求预测接下来的宏观走向,或者对没见过的新场景做出行为预测,用预测准确率衡量可理解性,而不是只问监督者主观上"觉得懂不懂"。也有工作用访谈或让监督者画出简化的行为规则图,考察监督者实际总结出的心智规则和算法设计者预设的规则之间是否吻合,吻合度低说明界面呈现的信息不足以支撑正确的归纳。
边界
可理解性不能简单假设"局部规则简单等于整体好理解"——基于简单局部规则涌现出的群体行为,在设计阶段规则确实简单,但涌现出的宏观模式不一定容易被外部观察者归纳,这是群体系统里单独存在的一类问题,不是可理解性本身的失败,而是可理解性要求本来就要面对的现实。同时,对于本身依赖大量随机性或学习出的策略的群体,即使算法透明,也未必存在一条稳定的简短规则可以归纳,这时勉强简化会掩盖真实的不确定性,给监督者错误的信心。摘要指标本身也可能是有损的——比如群体正在分裂成两股子群、分别朝相反方向移动时,平均位置和平均朝向仍然可以显示为"整体居中、大致静止",看起来一切正常,这类通用均值统计在特定分裂模式下反而会把真正在发生的宏观变化掩盖掉,选择摘要变量必须针对该算法实际可能出现的分裂、聚集模式来设计,不能不加检验地套用离散度或平均朝向这类通用统计量。
怎么落地
群体系统的界面设计应该主动呈现群体层面的摘要性指标,例如平均朝向、离散度、分流状态,而不是只呈现原始的多机位置画面,帮助监督者更快形成可理解的宏观心智模型。验证办法是用前述的预测准确率测试来评估当前的摘要显示设计是否真的提升了监督者对群体走向的预判能力——比如在加入摘要面板前后分别测量预测准确率,如果没有实质提升,说明摘要设计本身选错了变量,不能只凭"加了摘要面板"就默认达标。