把我当作你的朋友，而不是你数据库中的一个数字：与儿童共同设计以应对在线数据化

文献标题

"Treat me as your friend, not a number in your database: Co-designing with Children to Cope with Datafication Online"

文献信息

• 主题领域: 人机交互 (HCI)、算法透明度、数据隐私保护、儿童在线数据化
• 关键词: 数据化, 数据推断, 在线平台, 儿童, 共创设计

研究背景与问题

• 发现的问题:

  • 儿童的行为数据在在线平台上被系统性地记录、追踪、聚合、分析，并用于行为预测、内容推送及商业化操作（如广告促销）。
  • 当前数据化实践通常缺乏透明性，包括数据如何收集、使用以及推断，还涉及用户（包括儿童）隐私和自主权的侵犯。
  • 多数儿童对数据化的理解薄弱，而成人对此亦鲜有知识。 -已有研究显示，尽管儿童对数据化实践有基本理解，但由于其认知和社会发展阶段限制，他们无法全面掌握数据推断的全貌。

• 重要性:

  • 儿童是数字世界中数据化的核心用户，其隐私受到影响，而儿童解决数据隐私问题的能力有限，亟需被设计支持。
  • 该问题直接关系到儿童的数字权利、个人自主权以及数据化社会中更广泛的伦理环境。

• 研究动机:

  • 扩展儿童在线数据化实践的理解，探索儿童对数据化现象的需求以及平台设计方案。
  • 提供年龄相关的设计支持，帮助儿童更好地理解数据化过程，并提升其处理数据推断的能力。

• 研究问题:

  • RQ1: 儿童如何看待数据化实践，并希望如何被支持？
  • RQ2: 哪些设计机制能够帮助儿童更好地应对数据化？

解决方案

• 方法与解决方案:

  • 使用共创设计（Co-design），开展了10场设计活动，分别包含：
    • 预设计活动: 探讨个体对视频推荐和个性化广告生成机制的初步理解。
    • 共创活动1: 使用虚构情景引导儿童讨论数据化实践对自身的影响。
    • 共创活动2: 借助 CAL（Critical Algorithmic Literacy）框架，帮助儿童设计和调整平台透明度及控制机制。
  • 平台选择: 以YouTube作为案例平台，探索其推荐系统和广告个性化机制。

• 创新点:

  • 年龄分阶段设计：针对儿童从7岁到14岁的认知发展阶段，定制化设计支持机制。
  • 将CAL框架引入到儿童共创设计，用以引导儿童讨论数据化现象的关键机制。
  • 设计兼容透明度和控制机制的原型（“EXPLAIN!”和“CONTROL!”卡片），以启发儿童提出改进建议。

• 实施步骤和关键技术:

  • 建立儿童与研究者的平等设计团队，使用角色扮演、故事讨论、用户界面原型改进等方式引导儿童潜在需求的表达。
  • 将数据化机制按照三种思维框架（认知性、情境性、批判性）进行设计，涵盖透明度与控制方面。

研究成果

• 具体成果:

  • 辨别出儿童对数据化实践的三大认知阶段：
    • 7-9岁：数据收集概念基本了解，但对数据共享或推断欠缺理解。
    • 10-11岁：开始认识跨平台数据共享和个性化模型，但对推断深度仍有限。
    • 12-14岁：普遍认可数据化带来的伦理风险，并提出技术与社会层面的“改革需求”，如数据去集中化理念。
  • 儿童提出了基于尊重、透明度和自主权的设计机制，包括算法透明的表达、用户控制优化以及平台“拟人化”的互动方式。

• 优势与贡献:

  • 提供了数据化设计领域儿童视角的系统性理解。
  • 高度强调尊重人性和处理儿童数字权益的设计伦理，为构建儿童友好的数据化机制做出贡献。
  • 提出了支持“数据自主权”和“数字数据去集中化”的具体设计方向。

• 实验结果:

  • 不同年龄阶段的儿童展示了对算法透明度和控制的需求差异，并在设计建议中凸显“无一刀切”的支持方式。
  • 儿童期待透明的信息表达，但对复杂技术性词汇感到困扰，偏好简单直接的用户接口与友好互动。

• 局限性与未来方向:

  • 局限性:
    • 使用虚构故事可能对研究结果的概念影响有所限制。
    • 研究主要通过共创活动了解儿童需求，未来需在真实平台场景中验证设计方案。
  • 未来方向:
    • 开发平台原型以验证年龄分阶段的设计机制。
    • 支持儿童在线上的数据自主权与相关技能发展。
    • 结合伦理学、设计学引导平台朝向“更人性化”和“自主支持型”方向发展。