挖掘关于您症状的证据:缓解在线自我诊断中的可得性偏差

对话式聊天机器人AI 伦理、公平与问责医生、护士、临床医生精神科医生与心理咨询师

研究背景与问题

  • 作者发现了哪些问题或挑战? 社交媒体上健康相关信息的暴露可能触发可得性偏差,导致用户在自我诊断过程中过高估计自身症状。这种扭曲可能会促使错误的自我药疗,并使医疗服务提供者不得不纠正患者的误解。

  • 为什么这个问题很重要? 不准确的自我诊断可能引致进一步的健康隐患并对医疗体系造成压力。同时,社交媒体推荐算法倾向于推送与用户搜索兴趣相关的内容,使问题更为复杂。此外,在线症状检查工具(OSCs)的普及加剧了这些挑战。

  • 研究动机与相关工作 作者旨在研究社交媒体对自我诊断与可得性偏差的影响,并探索缓解偏差的有效方法。以往研究关注于偏差的识别及减少策略,但大多集中于专业医疗人士,对于普通公众在接触社交媒体后如何感知其症状并如何减轻这些偏差,知之甚少。

解决方案

  • 作者提出了哪些方法或解决方案? 作者提出了三种基于聊天机器人的症状检查器(Chatbot-Based Symptom Checkers, CSCs),分别是:

    1. 普通聊天机器人(CSC): 基本的症状对话模式。
    2. 带有证据反思(CSC with Evidence Reflection): 鼓励用户提供症状的具体情境和证据以促进深度反思。
    3. 带有反事实思考(CSC with Counterfactual Thinking): 引导用户思考症状不出现的场景或对应的反例。
  • 该解决方案的创新之处是什么? 这些设计首次将认知干预策略融入到聊天机器人中,以减轻社交媒体引发的可得性偏差,同时构建交互对话来加深用户的反思。此外,这些策略基于认知心理学的理论,例如反事实思维和证据分解。

  • 实施步骤是什么?使用了哪些关键技术?

    1. 对社交媒体内容进行分类处理,区分为“中性”、“夸张”和对照组。
    2. 设计基于GPT-4的聊天系统,定制对话框架以匹配不同认知策略(例如证据反思和反事实)。
    3. 通过两次实验,分别验证社交媒体内容的影响和CSC在减少可得性偏差方面的效能。
    4. 数据分析包括量化指标(如症状影响评分)及定性反馈分析。

研究成果

  • 取得了哪些具体成果?

    1. 社交媒体信息的暴露会通过“共鸣”引发可得性偏差,用户倾向于忽视自己的真实经验并夸大其他症状的适用性。
    2. 带有认知干预的CSC显著减少了可得性偏差,尤其是在中性信息引发的症状过高估计中表现出效果。
    3. 使用聊天机器人促进用户的证据性反思,有效增强自我评估的准确性。
  • 与现有解决方案相比,它有哪些优势? 传统在线症状检查器通常是静态问卷形式,无法对认知偏差进行有效干预。而聊天机器人通过交互性对话显著提高了用户反思的质量,能够从多角度促使用户重新评估其症状。

  • 实验或评估结果是什么?

    • 社交媒体中性内容显著影响用户的自评得分,证实了其带来偏差。
    • 使用CSC(带有认知干预策略,如证据反思或反事实设计)后,可得性偏差显著减弱,用户更倾向于基于证据反思自我诊断。
    • 采用反事实策略的用户在自我诊断中投入了更高的认知精力。
  • 局限性与未来方向

    1. 局限性

      • 研究基于短期实验且在模拟环境中进行,未完全反映真实社交媒体生态系统的长期影响。
      • 选择了成人ADHD作为焦点,但结果能否推广至其他疾病尚未知。
      • 用户样本偏向年轻、高教育背景,影响了结果的广泛适用性。
    2. 未来方向

      • 探索实时社交媒体生态系统对健康信息传播的具体影响及它与用户反应之间的关系。
      • 在不同健康状况和人群(包括有健康疑虑的人群)中验证结果的泛化性。
      • 借助适应性策略,根据用户的个性化特性定制认知干预设计以提升使用率。

通过这些研究工作,作者为社交媒体健康信息设计和聊天机器人诊断工具的发展提供了新的视角和启发。

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/papers/chi/189259/2025

广告推荐

学习 AI 编程到 CodeNow

open_in_new打开DOI链接
DOI: https://dl.acm.org/doi/10.1145/3706598.3713805
一眼看懂

论文快照

fact_check
dataset
来源
CHI
calendar_month
年份
2025
emoji_events
奖项
未标记奖项
group
作者
4 位作者
sell
研究子方向
对话式聊天机器人、AI 伦理、公平与问责
work
职业/产业
医生、护士、临床医生、精神科医生与心理咨询师
article
内容状态
已索引正文
hub
相关论文
3 篇相关论文