通过设计虚构理解青少年对健康人工智能技术的益处和风险的看法

研究背景与问题

• 作者发现了哪些问题或挑战？

  • 青少年对健康人工智能（Health AI）的认知尚未得到深入探索。
  • 虽然健康AI在医疗和个人健康管理中的潜力受到关注，但其隐私风险、信任问题和对特定群体（如青少年）的适用性仍存在争议。
  • 青少年面临特殊健康行为的转型阶段，因此需要为其独特需求设计健康AI。

• 为什么这个问题很重要？

  • 青少年正处于建立长期健康行为的关键时期，他们开始在个人健康管理中获得自主权，通常通过技术（如互联网和社交媒体）获取健康信息。
  • 随着健康AI的普及，其可能对青少年在健康管理上的重要性产生深远影响。

• 研究动机与相关工作

  • 过去的研究主要关注成人用户（如临床医生、患者及家长）或某些健康状况特定的患者对健康AI感知的问题，却忽略了青少年的观点。
  • 本研究旨在填补这一研究空白，探索青少年对健康AI技术的看法，并为未来的设计提供指导。

解决方案

• 作者提出了哪些方法或解决方案？

  • 作者采用设计虚构（Design Fiction）的方法，通过四个虚构设计场景探讨健康AI技术对青少年的潜在利益和风险。
  • 利用虚构场景引导青少年想象未来的健康AI使用情景，从而获得他们的真实反馈。

• 该解决方案的创新之处是什么？

  • 使用设计虚构方法，能够在技术尚未完全实施之前获取对实际需求和潜在影响的洞察。
  • 包含临床和个人健康领域的双重视角，使研究覆盖更广。
  • 针对青少年独有的需求（例如隐私和学习健康管理技能）进行了详细调查。

• 实施步骤是什么？使用了哪些关键技术？

  • 场景开发：与儿科医生合作，结合文献和临床实践设计四种场景，涵盖当前和未来使用形式。
  • 招募参与者：通过两所美国西部高中暑期项目，招募接受采访的16名青少年。
  • 半结构化访谈：通过Zoom平台展示每个虚构场景并收集反馈。
  • 数据分析：采用开放编码进行主题分析，以提取青少年的态度、优劣评估及建议。

研究成果

• 取得了哪些具体成果？

  • 青少年对健康AI持谨慎乐观态度，认为其具有以下利益：
    • 提供更高效的健康管理工具。
    • 能够协助医生，提高诊断和治疗效率。
    • 支持个性化健康生活目标（如运动、营养管理）。
  • 青少年也对某些风险表示担忧：
    • 隐私问题，包括信息泄露至公共领域或家长。
    • AI在心理健康和重症领域的预测准确性较低。
    • 对完全由AI做出的决定（如药物推荐）持保留态度。

• 与现有解决方案相比，它有哪些优势？

  • 本研究是首个专门探讨青少年对健康AI看法的研究，促使这群体的声音被纳入到技术设计的考虑中。
  • 提供了青少年特定需求和观点（如学习和隐私需求）的全面洞察，使得未来的设计更具针对性。

• 实验或评估结果是什么？

  • 青少年强调需要人类参与到健康AI的各个功能中，包括提供技术反馈、情感支持以及决策监督。
  • 他们对不同类型数据隐私敏感度（如医学记录与身体录影）的不同表述揭示了隐私风险的情境化维度。

• 局限性与未来方向

  • 局限性：
    • 样本偏向年龄较大的青少年（平均16岁）和女性，可能无法完全反映更广泛的青少年群体的观点。
    • 被调查者没有严重健康状况，可能无法体现那些有重大健康问题的青少年的反馈。
  • 未来方向：
    • 探讨不同年龄段青少年或有慢性病的青少年对健康AI的看法。
    • 深入研究种族和文化背景如何影响对AI的感知。
    • 推动健康AI设计的种族包容性和数据透明性，以减少风险并提高适用性。