数据科学中的遗忘实践

文献标题

Forgetting Practices in the Data Sciences

文献信息

• 主题领域: 数据科学中的遗忘实践与人机交互（HCI）影响
• 关键词: 数据集、神经网络、视线检测、文本标注、遗忘实践、数据沉默、机器学习、数据科学、交互设计、社会正义

研究背景与问题

• 发现的问题或挑战:

  1. 数据科学中的数据集选择、处理、清理和标注过程中存在“遗忘实践”，这些实践可能导致数据偏差或不公平。
  2. 虽然许多研究探讨了数据集偏差问题，但较少关注处理数据时的内在偏差及其带来的影响。
  3. 大数据技术常常默认数据客观性，忽略了背后人类做出的决策和人为操作。

• 重要性:

  1. 数据在社会决策、算法开发以及机器学习模型训练中具有关键性作用，但遗忘某些数据处理细节可能导致意外后果。
  2. 当前数据科学实践中缺乏对遗忘行为的记录与考察，这可能阻碍公平性和透明度目标的实现。

• 研究动机与相关工作:

  1. 研究激发于对数据遗忘问题的深刻反思，探讨如何在记录和保留重要数据的同时构建有选择性遗忘机制。
  2. 此研究结合了人机交互理论、数据科学实践分析与批判计算思想，以及来自性别研究和社会正义领域的观点。

解决方案

• 提出的解决方案:

  1. 分类与分析: 作者提出了一种「数据沉默」的分类系统，将遗忘实践分为不同等级和类型（如温和沉默、强势沉默、复杂沉默）。
  2. 遗忘实践叠层模型: 描述如何在数据科学生命周期中（从数据规划到模型部署）逐渐累积遗忘。
  3. 学术词汇与框架: 提出了一种将遗忘、记忆和删除纳入分析的新术语体系。

• 创新之处:

  1. 提出“遗忘实践叠层模型”，层级关系旨在揭示数据科学工作中的具体遗忘过程。
  2. 丰富了数据科学领域的社会正义维度，特别是在敏感数据处理、特征工程以及模型训练相关的伦理讨论中。
  3. 提供了新语言工具（如“数据沉默”、“遗忘者社区”、“记忆辅助”等）以解读数据科学中的遗忘现象。

• 实施步骤与关键技术:

  1. 数据分类：评估数据选择、清理、标注及训练模型过程中导致遗忘的隐性实践。
  2. 模型评估：通过实验验证遗忘行为是否对模型精度和公平性产生影响。
  3. 工具设计：提出可能使用的社会技术工具（如带有变化历史记录功能的数据框架）。

研究成果

• 具体成果:

  1. 创建了一分类系统（数据沉默类型），帮助分析数据科学工作中的遗忘机制对最终成果的影响。
  2. 提供了数据科学工作中遗忘实践发生的位置与模式的详细描述（遗忘叠层）。
  3. 提议了工具设计与改进方向，以帮助数据科学实践中记录和处理动态数据的信息沉默问题。

• 优势:

  1. 从更细粒度的视角分析了数据科学中的隐性偏差来源。
  2. 丰富和拓展了数据科学的伦理维度，引导关注数据处理的透明化与社会影响。
  3. 为学术界和实际操作提出了具体建议与实践模型。

• 实验或评估结果: 实验与分析展示了在数据处理过程中的诸多遗忘现象（如缺失值替代、标签分歧处理等）如何演变成隐性数据偏差。

• 局限性与未来方向:

  1. 局限性：研究主要聚焦于数据科学实践中的人为决策，未深入讨论算法自身的偏差及其反馈效应。
  2. 未来方向：
     • 开发支持记录和提醒遗忘实践的工具。
     • 探讨人工智能模型中遗忘实践对真实世界决策的影响。
     • 扩展研究范围至数据科学团队协作模式中的社会文化影响。

总结与贡献

本研究不仅致力于揭示数据科学中的遗忘实践，还通过分类与叠层模型的方式帮助研究人员更系统地理解遗忘行为的成因和影响。进一步提出了改善数据科学工作透明度和公平性的路径。