高风险公共部门决策中算法支持的公平性和问责性设计需求

呼吁在算法辅助的公共决策（如税收、司法和儿童保护）中加强对公平性和问责制的考虑现在已经很普遍。设计者如何支持这些人类价值观？我们采访了来自5个经合组织国家的27位公共部门机器学习从业者，了解他们在工作中理解和融入公共价值观所面临的挑战。结果表明，组织和机构的现实、限制和需求与当前关于可用性、透明度和“歧视意识”的机器学习研究所关注的问题之间存在脱节，这种缺失可能会破坏实际举措，除非得到解决。我们在这次脱节中看到了设计机会，例如支持追踪二级数据源的概念漂移，以及构建可用的透明度工具以识别风险并纳入领域知识，这些工具旨在服务于管理者和公共服务前线的“街头级官僚”。最后，我们概述了这些高风险应用中的伦理挑战和未来合作方向。