计算机如何理解性别：商业面部分析服务中的性别分类评估

面部分析技术（如面部检测和面部识别）的调查是人工智能对人类影响讨论的核心。自动性别识别（面部分析技术对性别的分类）研究提出了关于种族和性别偏见问题的潜在担忧。本研究通过使用经验数据来丰富过往工作，对计算机视觉服务在面对性别多样性时如何进行性别分类和性别标注进行系统分析。我们试图理解性别在当今可用的商业面部分析和图像标注技术中是如何被具体概念化和编码的。然后我们进行了两项研究：（1）对十个商业面部分析和图像标注服务进行系统分析；（2）使用自主标注的多性别Instagram图像数据集对五个服务进行评估。我们的分析强调了性别如何被编码到分类器和数据标准中。我们发现面部分析服务对跨性别个体的表现始终较差，且普遍无法分类非二元性别。相比之下，图像标注通常呈现多种性别概念。我们还发现用户对性别表演和身份的感知与性别表演被编码到计算机视觉基础设施中的方式相矛盾。我们从三个性别身份角度（自我认同、性别表演和人口统计身份）讨论我们的发现，以及这些观点如何在三个层面相互影响：分类基础设施、使用该基础设施的第三方应用程序，以及与该软件交互的个人。我们借鉴Bowker和Star的“扭矩“和“残余性“概念进一步讨论性别分类的社会意义。最后，我们概述了创建更具包容性的分类基础设施和数据集的机会，以及对政策的影响。