对话式接种增强对虚假信息的抵抗力

文献标题

Conversational Inoculation to Enhance Resistance to Misinformation

出版信息

• 主题领域: 通过认知免疫技术结合对话系统来应对错误信息。
• 关键词: 认知免疫、错误信息、聊天机器人、对话系统、人机交互、抗劝说能力、大型语言模型、健康传播、用户参与、自适应干预。

背景与问题

• 问题/挑战: 传统的认知免疫方法在干预过程中往往无法根据个体的态度或反应进行调整，从而限制了其在应对错误信息方面的有效性。
• 重要性: 错误信息对公共健康、决策制定和社会福祉构成了重大威胁，而生成式人工智能的兴起使得错误信息更加可信且易于生产，加剧了这一问题。
• 动机与相关研究: 认知免疫理论（CIT）已在多个领域得到验证，但缺乏个性化和适应性。最近的研究突出了对话系统（尤其是聊天机器人）在弥补这些不足方面的潜力，但其在认知免疫中的应用尚未得到充分探索。

解决方案

• 提出的方法: 对话式免疫，通过一个名为 MindFort 的基于网络的系统实现，该系统包含一个由大型语言模型（LLM）驱动的聊天机器人 Forty，通过结构化的交互式对话增强对错误信息的抵抗力。
• 创新点:
  1. 引入对话式免疫，作为一种动态、自适应的认知免疫方法。
  2. 开发 MindFort 系统，利用 LLM 根据用户参与度和态度定制对话。
  3. 实证验证对话式免疫相较于传统方法（阅读和写作）的有效性。
  4. 确定影响免疫效果的因素，包括建立信任和促进独立思考。
• 程序和关键技术:
  • 参与者完成了四个针对错误信息主题（如运动与心理健康、酗酒）的课程。
  • 每节课程遵循五阶段免疫过程：干预前的确定性评分、干预（阅读、写作或聊天机器人）、课程中期的确定性评分、强烈的反态度攻击、以及攻击后的确定性评分。
  • 聊天机器人 Forty 引导参与者通过构建反驳的对话，适应用户的反应并促进批判性思维。

结果

• 具体发现:
  • 聊天机器人条件下的参与者对错误信息的抵抗力显著高于对照组（p = .001, r = −.33）。
  • 聊天机器人条件的免疫效果优于阅读条件（p = .004）和写作条件（p = .033）。
  • 聊天机器人干预提高了参与者的确定性，而写作干预则降低了确定性（p = .006）。
• 相较基线的优势:
  • 聊天机器人在减少对错误信息的易感性方面优于对照组，并且在控制基线易感性后，其免疫效果优于阅读和写作条件。
• 实验/评估:
  • 采用被试内设计，共有 61 名参与者，比较四种条件（聊天机器人、阅读、写作、对照）在四个主题上的表现。
  • 指标包括确定性评分变化、内在动机量表（IMI）以及对聊天机器人对话的语言分析。
• 局限性与未来工作:
  • 由于研究集中在健康和自然主题上，结果的普适性有限。
  • 免疫与错误信息攻击之间的时间间隔较短。
  • 交互摩擦和技术问题影响了聊天机器人的参与度。
  • 未来研究应探索多代理系统、个性化策略，并扩展到态度以外的更广泛应用领域。

总结

本研究提出了一种新颖的方法——对话式免疫，通过与 LLM 驱动的聊天机器人进行交互对话来应对错误信息。MindFort 系统在增强对错误信息的抵抗力方面表现出色，在控制基线易感性后，其效果优于传统方法。研究还发现，促进独立思考和建立信任是免疫成功的关键因素。尽管这一方法展现了巨大的潜力，但仍需进一步优化以解决交互摩擦问题，并探索更广泛的应用领域。对话式免疫为 HCI 领域的错误信息抵抗提供了一种可扩展且具有吸引力的方向。