表达方式会影响决策吗？探讨AI解释语气对决策制定的影响

研究背景与问题

• 发现问题: 作者发现，尽管人工智能（AI）驱动的决策支持系统的解释性信息可以帮助用户评估建议，但对这些解释的语气（例如正式还是幽默）如何影响人类决策的研究仍然较少。
• 问题重要性: 解释的表达可能影响用户的信任与决策。这在高风险领域（如司法或医疗）尤为关键，因为它可能导致用户过度依赖系统或忽视重要建议，从而影响系统的可靠性。
• 研究动机与相关工作:
  1. 以前的研究表明，AI产生的解释内容对用户的信任和任务性能有显著影响，但对“表达方式”的研究主要集中在用户对AI的感知而非其实际决策影响。
  2. 用户对语调和表达的敏感度可能因AI角色和用户属性而变化，值得进一步探索这些复杂相互作用。

解决方案

• 提出的方法:
  1. 探索不同语气（例如正式、幽默）对用户决策的影响。
  2. 研究AI在不同角色下（助手、第二意见提供者、专家）语气与用户决策的关系。
  3. 分析用户特性（如年龄和人格特质）如何影响语气对决策的调节效果。
• 创新之处:
  1. 提出“语气解释调节”的概念，强调语气和表达方式对用户行为的潜在影响。
  2. 设计三个实验场景（电影推荐、意见形成、犯罪再犯风险预测）代表不同的AI角色。
  3. 使用大语言模型生成多样化的解释数据集。
• 实施步骤:
  1. 使用大语言模型生成实验数据，包括电影情节、犯罪分析，以及多种语气的解释。
  2. 分阶段测试用户对不同语气下的解释反应，包括背景介绍阶段（没有解释）、预干预阶段（中性语气解释）和干预阶段（指定语气解释）。
  3. 通过问卷和心理测量评估用户决策的变化与特性相关性。

研究成果

• 具体成果:
  1. 在意见形成场景中，解释语气显著影响用户的决策，无论用户属性如何。
  2. 在其他场景中（电影推荐和犯罪风险预测），语气的影响强度因用户属性而异。例如，年长用户更倾向于接受正式语气，而幽默语气可能对年轻用户更为有效。
  3. 调查发现用户期待语调调整能提高信息清晰度、同理心和多样化视角，但同时也担忧潜在的操控和语气不一致可能引发偏见。
• 现有解决方案的优势: 与传统的基于内容的解释不同，本研究首次系统性评估“表达语调”在多场景中对决策的影响，并探讨复杂的用户特性与语调交互效应。
• 实验或评估结果:
  1. 在意见形成场景中，幽默语气被认为缺乏严肃性，影响了信息的可信度。
  2. 在犯罪风险预测场景中，用户采用不同的信息处理方式（按序或同时参考），语气对任务决策有不同程度的影响。
  3. 在电影推荐场景中，解释内容的优先级显著高于语气。
• 局限性与未来方向:
  1. 所用的语气类型（如幽默、正式）可能未能涵盖表达的广泛多样性。
  2. 样本量在某些场景中的不平衡可能影响了统计效能。
  3. 参与者对AI的预期可能存在偏见，需更系统地控制其影响。
  4. 未来研究需探索更复杂的表达风格以及任务特性与语气间的交互。

通过以上分析，本文为设计高效且用户友好的解释性AI系统提供了重要启示，特别是在调节表达语气以满足不同用户需求和任务场景方面。