“我知道你有歧视！”：AI系统个人公平性审计的自动化样本生成方法

人工智能（AI）系统在人们生活中发挥着越来越重要的作用，其频繁的不公平行为引发了对公平性的担忧。为了揭示AI系统中的不公平性，研究人员对这些系统进行公平性审计。然而，现有的公平性审计工作往往关注群体公平，而忽视了个体之间的歧视现象。为了挖掘AI系统中针对个体的歧视现象，本文提出了一个名为"substantiating"的个人公平性审计框架，该框架可以通过构建个体样本来识别AI系统中的歧视实例。为了构建这些样本，审计人员往往只能依赖主观先验知识，缺乏如何构建不公平样本的指导。为了解决这个问题，本文介绍了两类自动化样本生成方法，可以在有限的系统查询次数内快速找到不公平样本，并通过实验证明其有效性。本文在AI公平性的三类利益相关者（审计人员、AI模型开发人员和非技术人员）中评估了所提出的审计框架。研究结果指出了他们对AI系统个人公平审计的需求，并强调了如何支持可靠便捷的个人公平审计。