对比解释可以预见人类误解，从而提高人类决策技能

研究背景与问题

• 发现的问题或挑战: 研究发现，尽管 AI 系统提供了决策支持和解释，但用户对这些解释的学习并不显著或者可能依赖 AI 导致技能退化。当 AI 推荐不正确时，人们仍倾向于过度依赖。这种问题尤其严重，因为多项研究表明，许多人自然更倾向于寻找“对比性解释”而非单向解释，后者通常完全基于 AI 的决策逻辑，并不考虑用户的知识或思维过程。
• 重要性: AI 的广泛应用可能导致重要的技能退化问题，比如医疗和财务领域的高风险决策需要用户具备强大的独立思考能力，如此才能在面对 AI 错误建议时进行排查和判断。这不仅影响长期自主性，也可能对专业技能发展造成负面影响。
• 研究动机与相关工作: 过去基于对比性解释的研究通常将“对比项”主要定义为模型中的替代类别，并未考虑用户的实际心理模型。此外，相关研究已证明用户在单向解释条件下更可能表现为过度依赖，降低了对任务的学习能力。因此，研究需要探索一种新的解释框架，以更好地促进人类学习。

解决方案

• 提出的解决方案或方法: 作者提出一个框架生成人类中心的对比性解释（contrastive explanations），框架展示 AI 的选择和预测的人类选择之间的差异（即“为什么选择 A 而不是 B”）。这里的 "B" 是基于用户心理模型预测出的可能选择，而不仅仅是模型选择的替代类别。
• 创新之处: 这一框架强调通过预测用户可能选择的对比项（foil）来生成解释，这避免了直接依赖用户输入或简化为单向替代类别。框架将 AI 的推荐与人类常见选择进行对比，同时突显两者的知识差异。
• 实施步骤和关键技术:
  1. 模块设计:
     • AI 任务模型: 提供 AI 决策推荐（称为事实）。
     • 人类模型: 基于用户数据，预测用户可能的选择（称为对比项）。
     • 对比模块: 分析 AI 推荐与人类选择之间的差异，并标注哪些维度更优或较差。
     • 呈现模块: 使用大型语言模型（LLM）生成清晰易懂的自然语言解释，并补充必要的常识。
  2. 实验设计: 为虚构的运动建议任务构建这些解释，并设计五种实验条件（无 AI、单向解释、预测对比项、随机对比项与输入对比项）。

研究成果

• 具体成果:
  • 使用对比型解释（尤其是预测生成的对比项）显著提升参与者的学习能力，与无 AI 支持或单向解释相比都有优越表现。
  • 提供用户心理模型的对比性解释并未降低决策准确性。
  • 对于对比解释（预测的 vs. 随机生成的），高质量预测的对比项能够进一步提升用户的学习。
• 与现有方案相比的优势:
  • 相比单向解释，对比型解释更切合用户的心理模型，使他们更容易理解知识差距。
  • 提供了对用户的知识状态个性化设计，有助于优化用户的学习体验。
• 实验或评估结果:
  • 学习结果: 对比解释（预测对比项）条件下学习显著优于单向解释条件（p < 0.05）。
  • 准确性: 对比解释和单向解释条件下决策准确性相似（无显著差异）。
  • 用户主观体验: 对比预测项解释用户感到具有更高自主性和对系统的信任，而后置的 "对比性批评" 模式可能降低用户对任务的满意度。
• 局限性与未来方向:
  • 局限性: 实验任务设计为相对简单且短期学习效果，长期影响未被观察。此外，模拟的 AI 错误建议可能不完全代表真实环境。
  • 未来方向: 进一步探索个性化模型对比项的设计，通过细化用户心理模型优化解释质量；扩展框架至更复杂的多类别决策场景；研究解释设计在促进长期知识留存的效能。

总结

这项研究表明，结合用户心理模型生成的对比性解释能够有效改善人类的独立决策技能，同时保持任务准确性。该框架为进一步优化 AI 人机交互提供了坚实基础，特别是在人机协作任务中提升用户学习能力的设计方向。