研究公共部门人工智能：权力关系网络如何塑造机构的人工智能设计与使用决策

DOI

随着公共部门机构在社会服务等高风险领域快速引入新的人工智能工具，理解决策如何实际做出变得至关重要。我们借鉴人类学实践“向上研究”那些处于权力地位的人，并将我们对公共部门人工智能的研究重新聚焦于那些有权力和责任决定人工智能工具在其机构中扮演什么角色的决策者。我们通过对16名机构决策者进行半结构化访谈和设计活动，研究了人工智能设计和采用决策如何受到他们与机构内其他参与者（如一线工作人员和机构领导）以及上方（法律系统和承包公司）和下方（受影响社区）互动和假设的影响。通过聚焦这些权力关系网络，我们的发现揭示了基础设施、法律和社会因素如何为更广泛的利益相关者参与人工智能设计和采用决策创造障碍和负面激励。机构决策者希望获得更多关于公共部门人工智能利益相关者参与的实践支持，以帮助克服他们与其他利益相关者（如一线工作人员和受影响社区成员）之间感知到的知识和权力差异。基于这些发现，我们讨论了关于在公共部门环境中实现参与式人工智能方法的未来研究和政策含义。