扰乱数据集：人工智能介导的行为健康中的社会技术错位

视频

DOI

人工智能（AI）在行为健康领域的应用导致了人们对使用机器学习（ML）技术识别人人个人数据中模式的兴趣日益增长，目的是检测甚至预测抑郁症、双相情感障碍和精神分裂症等疾病。本文通过对三个自然语言处理（NLP）训练数据集的情境分析，调查了人工智能介导的行为健康背后的数据科学实践和设计叙事。将数据集作为一个与特定社会世界、话语和基础设施安排密不可分的社会技术系统来审查，我们识别出了数据集构建和基准测试的技术项目（这是当前人工智能在行为健康领域研究的一个重点）与行为健康的社会复杂性之间的几个错位。我们的研究通过阐明'扰乱数据集'这一敏感性概念，为人工智能系统日益增长的批判性 CSCW 文献做出了贡献，该概念旨在有效地挑战人工智能/机器学习在行为健康领域应用的主导逻辑，并支持研究人员和设计者在这个新兴的敏感设计空间中反思他们的角色和责任。