揭示个人信息学的偏见

个人 informatics（PI）系统由智能手机和可穿戴设备驱动，通过提供有意义的可操作见解来打破用户与其健康信息之间的障碍，使人们能够过更健康的生活。如今，这类系统已被数十亿用户用于监测身体活动、睡眠以及生命体征、女性健康和心脏健康等。尽管应用广泛，但敏感 PI 数据的处理可能存在偏见，这可能带来实际和伦理影响。我们首次对 PI 系统中的偏见进行了全面的实证和分析研究，包括原始数据和整个机器学习生命周期中的偏见。我们使用迄今为止最详细的框架来探索偏见的不同来源，发现偏见既存在于数据生成中，也存在于模型学习和实施流程中。根据我们的结果，受影响最大的少数群体是患有健康问题的用户，如糖尿病、关节问题和高血压，以及女性用户，他们的数据偏见被学习模型传播甚至放大，同时也可以观察到交叉性偏见。