选择性信任：理解个人健康决策过程中的人工智能合作伙伴关系

研究背景与问题

• 作者发现了哪些问题或挑战？ 作者指出，随着人工智能（AI）逐渐嵌入到个人健康技术中，其通过个性化推荐改善健康决策的潜力变得显著。然而，人们对于在个人健康背景下使用AI辅助决策的认知仍然有限，尤其是在体力活动相关的健康决策中的信任问题。

• 为什么这个问题很重要？ 人工智能有可能在个人健康管理中扮演重要角色，通过个性化的建议增强决策过程。但人们对AI的信任决定了它的实际采用和有效性，尤其是在涉及个人健康的敏感领域中。此外，未校准的信任可能导致误判或依赖错误的AI建议。

• 研究动机与相关工作 本研究旨在填补当前人们如何看待AI辅助个人健康决策的认知空白，并分析这些过程如何影响对AI的信任。作者参考了临床场景中医生与病人协同做决策的模式，并追踪个人健康技术如何逐渐从数据追踪工具演变为更具协作性和自主性的系统。

解决方案

• 作者提出了哪些方法或解决方案？ 作者设计了一个名为 MoveAI 的基于GPT-4.0的物理活动决策支持工具，并通过线上调查和半结构化访谈的方法研究人们对AI辅助健康决策的信任及其影响。MoveAI模拟了医生与病人的协作决策过程，使用了选择、选项建议和决策提示的模型。

• 该解决方案的创新之处是什么？ 本研究的创新点包括：

  • 使用共享决策模型（SDM）作为AI与用户交互的框架，通过选择、协作和谈判促成个性化的健康决策。
  • 探索传统决策理论（如直觉式与理性决策模式）和用户对AI信任的互动关系。
  • 提出能够适应不同用户决策风格的AI辅助健康技术设计方向。

• 实施步骤是什么？使用了哪些关键技术？

  1. 设计AI互动框架： 基于SDM模型，MoveAI引导用户通过信息收集、选项讨论和达成最终决策。
  2. 研究设计与实验： 开展含184名参与者的线上调查，以及后续对24名参与者的深度访谈。
  3. 数据分析： 综合定量方法（如相关分析）和定性方法（如主题分析），探索用户与MoveAI的交互数据。

研究成果

• 取得了哪些具体成果？

  1. MoveAI几乎获得了与医疗专业人士相似程度的信任，但其建议被认为缺乏个性化和深度。
  2. 人们对MoveAI的信任依赖于其对用户物理活动需求的适应程度以及建议的准确性和透明性。
  3. 人们的决策风格（如理性型、直觉型或依赖型）在他们如何感知和信任AI上发挥了重要作用。

• 与现有解决方案相比，它有哪些优势？

  • MoveAI不仅提供通用建议，还尝试通过动态对话基于用户输入给出个性化建议。
  • 通过模拟医生与患者共享决策的过程，MoveAI探索如何让AI在协作式健康决策中被更好地接纳。

• 实验或评估结果是什么？

  • 参与者对信任度相关的多个维度（例如技术能力、可靠性、可理解性等）给出了中等偏高的评价。
  • 决策风格显著影响对MoveAI的信任。理性型用户更看重其可理解性，而依赖型和直觉型用户对可靠性和技术能力的评价更高。

• 局限性与未来方向

  • 局限性：
    • 样本过于集中于西方社会且高度教育人群，可能无法完全反映多样文化和教育背景下对AI辅助决策的接受程度。
    • MoveAI无法充分捕捉用户的复杂需求和外部因素。
    • 实验场景是模拟的，并未测量真实生活中用户行为。
  • 未来方向：
    • 提高AI建议的个性化和背景感知能力，不仅停留在互动层面，还能动态调整建议内容。
    • 开发能够解释建议依据和确保用户“感到被解释”的AI工具。
    • 更好地理解决策风格对信任的具体影响，并将其纳入AI辅助技术的设计中，使系统兼容多样化的用户需求。

通过这项研究，作者为AI辅助个人健康决策领域提供了新的视角，强调了信任和个性化的重要性，并为未来研究和实践提供了清晰方向。