分类方案的构建及其后果

人工智能（AI）数据标注研究表明，偏见、权力和文化会影响标注者将标签应用于数据的方式，进而影响下游AI系统。然而，标注者只能应用分类方案中可用的标签。通过对医学研究人员与AI研究人员之间为期三年的民族志研究，我们认为分类方案本身的构建——关于可以收集和不能收集什么样的数据、什么活动可以在数据中被检测到、可能的标注类别应该是什么，以及项目应如何归入每个类别的规则——显著塑造了标注过程，并由此塑造了AI系统。我们借鉴Bowker和Star（2000）的分类理论，详细描述了一个医院重症监护室（ICU）计算机视觉算法的训练数据编码簿如何从最初的临床驱动目标（对复杂临床活动进行分类）演变为更狭窄的目标（识别ICU中的物理物体和更简单的活动）。这项工作强化了在标注者开始标记数据之前很久做出的权衡和决策对最终AI系统的高度重要性。