福祉技术中人类建模的中心与边缘

研究背景与问题

• 作者发现了哪些问题或挑战？
  • 本论文探讨了机器学习技术在健康与幸福应用中的人类建模问题，尤其是这些技术如何嵌入隐藏的假设，引发用户体验与技术设计之间的矛盾。核心问题包括：
    • 当前健康类应用中的机器学习模型通常会隐含涉及人类身体和体验的刻板假设（如身体规律性、健康与疾病的二元性）。
    • 现有的人类中心机器学习领域容易忽略机器学习模型的社会价值及其对用户多样性需求的体现。
    • 数据驱动设计仅关注算法性能，未能有效捕捉复杂的人类和技术系统之间的纠缠关系。
• 为什么这个问题很重要？
  • 健康科技逐渐渗透到日常生活中，其模型可能影响用户对自己身体及健康状态的感知，如果这些模型未能充分考虑用户多样化的身体和经验，则可能进一步加剧技术系统中的不公平性。
• 研究动机与相关工作：
  • 借鉴批判性技术实践和后人类主义哲学理论，探索如何解构并重新设计当前机器学习模型，使技术能够更包容地捕捉用户复杂的身体与健康体验。
  • 提出了一种基于去中心化（Decentering）的设计视角，质疑现有模型集中于普遍主义假设以及规范性身体概念的问题。

解决方案

• 作者提出了哪些方法或解决方案？
  • 作者通过三种健康相关机器学习应用案例研究（Clue经期追踪、社交健身应用、Oura健康追踪戒指），明确了当前建模实践中的中心假设和边缘化现象。
  • 结合批判性技术实践方法和后人类主义理论，以“代理现实”（Agential Realism）为哲学基础，重新定义“人类身体”的机器学习模型编码及设计框架。
• 该解决方案的创新之处是什么？
  • 采用去中心化方法：对传统的人类中心模型进行重新解读与设计，从而挑战普遍主义和刻板身体观念，如规律周期和健康状态的二元性。
  • 关键哲学融入：引入“代理现实”理论，将技术与人类体验的纠缠关系作为建模的核心，而不是将技术视为中立的工具。
• 实施步骤是什么？使用了哪些关键技术？
  1. 案例选择：选择三种典型健康应用，通过用户体验和技术设计反思揭示其隐藏的技术假设。
  2. 步骤一：经验收集：通过作者亲身体验（如自我民族志）和技术文档分析，识别用户与技术交互中的断裂点。
  3. 步骤二：设计反思：基于代理现实理论，质疑这些假设如何定义哪些“身体”在技术模型中被认可和优先。
  4. 步骤三：设想替代方案：提供新的建模路径，如支持周期不规律用户的数据集和创造性地设计状态转换模型。

研究成果

• 取得了哪些具体成果？
  • 明确了当前健康科技中的机器学习建模实践如何嵌入对“人类”的中心化假设以及如何重新定义人类身体在技术系统中的作用。
  • 提出了后人类主义视角下的机器学习设计方向，包括重新设计预测模型、考虑复杂身体节律、以及通过允许用户主动参与数据解释来设计互动系统。
• 与现有解决方案相比，它有哪些优势？
  • 本研究超越了传统的数据收集策略，仅仅增加数据库的多样性以改善模型表现的低效方法，转向解构性论述以重新定义将健康状态划分为“正常”和“不正常”的假设。
  • 提供了一种新的视角，将机器学习从简单的表达转换为与用户现实时态和动态关系的复杂交互。
• 实验或评估结果是什么？
  • 作者通过分析三个案例，展示了机器学习模型的中心假设如何导致用户体验中的断裂，并证明重新设计这些假设可以帮助创造更具包容性的健康科技。
• 局限性与未来方向：
  • 研究局限：
    • 由于研究方法依赖作者的第一人称体验，结论可能不能完全概括所有用户的情况。
    • 只选择了三个应用作为案例，因此针对更广泛健康技术类别的研究仍有待拓展。
  • 未来方向：
    • 开发能够处理概念漂移（concept drift）的合作式机器学习模型，适应用户与技术之间复杂关系的共同演化。
    • 探讨如何通过设计工具持续揭示和解决后人类视角中可能仍存在的排他性问题。