官僚主义作为分析和设计算法系统的镜头

视频

DOI

关于算法的学术研究借鉴了算法系统与官僚机构之间的类比来诊断算法决策中的不足。我们进一步扩展这一类比，借鉴米歇尔·克罗齐耶的官僚组织理论来分析算法决策与人类决策权力之间的关系。我们将算法类比为控制行为的公正的官僚规则，并认为在算法系统中，不确定性持续存在的地方会积累自由裁量决策权。本文的关键点与Alkhatib和Bernstein的“基层算法”理论相联系，并强调在算法系统中人类自由裁量的作用是适应刚性算法无法处理的不确定情况。最后，我们讨论了算法系统的分析和设计如何寻求识别和培养重要的不确定性来源，以促进增强系统在面对算法错误时的弹性的自由裁量工作。