日常算法审计：理解日常用户在揭示有害算法行为中的力量

视频

DOI

越来越多的文献提出了审计算法系统偏见和有害行为的正式方法。虽然正式的审计方法产生了很大影响，但它们往往存在重大盲点，只有在系统部署后日常使用的背景下才会出现关键问题。近年来，有许多案例表明，算法系统的日常用户在他们与这些系统的日常互动过程中检测并提高了对所遇到的有害行为的认识。然而迄今为止，学术界对这些自下而上的、用户驱动的审计过程关注甚少。在本文中，我们提出并探索了日常算法审计的概念，这是一个用户通过与算法系统的日常互动来检测、理解和质疑有问题的机器行为的过程。我们认为，无论用户对底层算法是否有了解，日常用户在揭示可能出现问题的机器行为方面都很强大，这些问题可能逃过更集中组织的审计形式的检测。我们分析了几个日常算法审计的真实世界案例，从这些案例中汲取教训，为促进这种审计行为的未来平台和工具设计提供建议。最后，我们讨论了未来需要做的工作，以缩小正式审计方法与日常使用中出现的自然审计行为之间的差距。