有问题的机器行为：算法审计的系统文献综述

视频

DOI

虽然算法审计正在迅速变得重要和普遍，但相对较少有学术研究致力于综合先前工作并在该领域制定未来研究策略。本系统性文献综述旨在填补这一空白，我们遵循PRISMA指南审查了500多篇英文文章，最终纳入了62项算法审计研究。这些研究主要按行为（歧视、扭曲、剥削和误判）进行综合和组织，同时也提供了领域（如搜索、视觉、广告等）、组织（如Google、Facebook、Amazon等）以及审计方法（如sock puppet直接抓取、众包等）的编码。基于综述，先前的审计研究已揭示强大的算法表现出有问题的行为，例如负有扭曲责任的搜索算法和负有歧视责任的广告算法。综述还表明一些行为、领域、方法和组织需要未来审计关注，例如广告算法中存在问题性「回音室」和其他扭曲效应。本文最后在算法正义相关研究的背景下讨论了算法审计。