算法辅助决策中的异质性：以儿童虐待热线筛查为例

视频

DOI

算法风险评估工具现在在刑事司法和公共服务等公共部门领域已很常见。这些工具旨在帮助决策者系统地利用行政系统中捕获的丰富和复杂数据。在本研究中，我们调查了决策者决策与算法风险评分之间一致性的异质性来源，背景是真实的儿童虐待热线筛查用例。具体来说，我们关注与工作者经验相关的异质性。我们发现，即使控制了观察到的算法风险评分和其他案例特征，高级工作者更有可能将转介筛选进调查。我们还观察到，经验较少的工作者的决策与算法风险评分的对齐程度更高，而高级工作者在工具引入之前就有决策经验。虽然筛查决策因儿童种族而异，但我们没有发现工作者经验与筛查决策之间存在种族差异的证据。我们的发现表明，对于在儿童福利电话筛查等员工流动率高的环境中引入算法的机构和系统设计师来说，重要的是要考虑保留机构知识的方式。