权力与游戏：探究团队AI伦理讨论中的“批判许可证”

DOI

过去的工作试图设计AI伦理干预措施（如检查清单或工具包）来帮助从业者设计更合乎伦理的AI系统。然而，其他研究表明这些干预措施可能会限制批判范围，使更广泛的担忧变得不合理。本文借鉴关于标准如何实现话语封闭以及权力关系如何影响人们是否及如何提出批判的研究，招募了三个企业团队和一个活动家团队，每个团队都有彼此合作的先验背景，让他们玩一个旨在触发AI伦理广泛讨论的游戏。我们以此为对比点，反思团队过去的讨论，检视影响他们在AI伦理讨论中“批判许可证“的因素。随后我们报告了游戏的特定功能属性如何影响讨论，并发现游戏中创建的假设情境不太可能成为现实世界变革的可行机制。我们讨论了群体内的权力动态和“范围“概念如何影响人们是否愿意在AI伦理讨论中提出批判，并讨论了我们的发现：游戏不太可能直接改变产品或实践，但可能更有可能让成员找到与批判相符的盟友，为未来的集体行动做准备。