公共服务中的算法问责制：一项关于儿童福利服务中算法决策受影响社区观点的定性研究

算法决策系统越来越多地被政府公共服务机构采用。研究人员、政策专家和民权团体都表达了这样的担忧，即这些系统在部署时没有充分考虑潜在的危害、差异性影响和公共问责制。然而，对于最有可能受到这些系统影响的人群的担忧，我们知之甚少。我们报告了在儿童福利服务背景下进行的工作坊，以了解受影响社区的担忧。这些工作坊涉及83名研究参与者，包括参与儿童福利系统的家庭、儿童福利机构的员工和服务提供者。我们的研究结果表明，对现有系统的普遍不信任极大地影响了对算法决策的舒适度。我们确定了通过提高透明度和改进沟通策略来提高舒适度的策略。我们讨论了我们研究对儿童福利应用中负责的算法设计的影响。