我们如何教会算法识别身份：面部分析图像数据库中种族与性别的建构

种族和性别在技术基础设施中有着悠久的分类社会政治历史——从护照到社交媒体。面部分析技术特别有助于理解身份在新技术系统中是如何被运作的。面部分析技术的能力取决于用于训练和评估的数据。在本研究中，我们特别关注这些数据，审视了用于面部分析的图像数据库中种族和性别是如何定义和标注的。我们发现大多数图像数据库很少包含关于这些身份如何定义的底层源材料。此外，当它们被标注种族和性别信息时，数据库作者很少描述标注过程。相反，种族和性别的分类被描绘成微不足道的、无可争辩的和非政治性的。鉴于种族和性别的社会历史性质，我们讨论了这些方法的局限性。我们认为，缺少与这种性质的批判性接触会使数据库变得不透明且不那么值得信赖。我们最后鼓励数据库作者解决嵌入种族和性别中的分类历史问题，以及他们在嵌入这种分类时的立场。