算法社会技术系统设计、使用与维护中的权力分配与冲突

视频

DOI

最近的参与式实践和价值敏感算法设计有助于构建符合社区价值观和需求的算法社会技术系统。然而，在算法设计早期阶段定义价值时，利益相关者之间可能存在的冲突，以及使用和维护算法社会技术系统过程中产生的权力动态，目前仍缺乏深入理解。在本文中，我们研究了关于我们社区的一个算法社会技术系统——SIGCHI学生志愿者（SV）选拔系统——的权力动态和冲突，该系统使用加权半随机算法来招募所需规模的志愿者群体。对24名担任不同角色的社区成员进行的访谈表明，SV选拔过程虽然看似是算法性的，但实际上是一个复杂的社会技术过程，在这个过程中，算法输出由会议组织者进行解释和调整，以反映社区的价值观，同时确保被选中的志愿者群体能够帮助妥善组织会议。这种社会技术过程反过来提供了一个舞台，现有的权力层级和利益相关者之间的价值冲突在决定如何感知和设想这一过程中发挥了显著作用。例如，我们的参与者发现，SV选拔过程中使用的算法是一个权力平衡器，能够对监督这一过程的组织者进行制衡。然而，当我们邀请参与者参与设计算法的参与式实践时，参与者之间普遍存在的价值冲突导致无法就SV选拔过程应该优先考虑什么价值，甚至什么应该被视为价值达成明确的共识。参与者建议，价值透明性——一种专注于解释为什么做出某个决定而非如何做出决定的透明度——可能是解决此类冲突的潜在机制。根据我们的发现，我们提出了社区可以采用的建议，特别是在面对权力问题和冲突时，以长期设计和维护算法系统。