公共部门高风险算法决策框架:基于儿童福利案例研究的设计

算法已渗透到民用政府和社会中，被用于对人类生活做出高风险决策。本文首先整合人机交互(HCI)、科技研究(STS)和公共行政(PA)领域的工作，开发了一个适用于公共部门的算法决策框架ADMAPS，以反映人类自由裁量权、官僚流程与算法决策之间的复杂社会技术交互。随后，我们应用ADMAPS框架对。美国中西部一家服务约900个家庭和1300名儿童的儿童福利机构进行了为期8个月的深入民族志研究。研究发现：需要关注以社会生态框架为中心的优势导向算法结果；算法系统应支持现有官僚流程并增强而非取代人类自由裁量权；集体认同需要 Practitioner 和官僚层面都相信算法系统的目标结果。研究提出了儿童福利系统中高风险算法决策工具的设计指南，并验证了ADMAPS框架的实用性。