“这不是AI的错因为它完全依赖数据”：AI决策的因果归因如何影响对AI系统的信任

研究背景与问题

发现的问题和挑战

• 作者指出当前人类对于AI决策背后的因果归因（causal attribution）如何影响对AI的信任问题尚未得到深入研究。传统的信任校准方法，例如提供解释和信心分数，未能充分考虑用户对AI决策因果性定位的感知。
• AI被认为能降低成本并提高效率，但其出错的可能性依然引发了用户何时信任AI的关键问题。尤其在AI的决策被视为自主或受外部因素影响时，用户可能会对AI赋予不同程度的责任或信任。

问题的重要性

• 信任不足或过度信任AI决策会对实际应用产生负面影响，尤其在高风险领域（如医疗诊断）或低风险领域（如音乐推荐）中可能表现得更加显著。
• 针对AI错误决策的责任分配问题引发了关于信任适当性的重要思考，例如用户是否会更倾向信任因为外部数据质量差导致出错的AI，而非因内在算法缺陷导致错误的AI。

研究动机与相关工作

• 过去的研究主要关注增强AI透明性以改善信任校准（例如通过解释型AI），然而，这些研究较少探讨用户如何理解AI决策中的因果定位问题。
• 研究者希望系统性地探讨如何因果归因（内部归因或外部归因）影响AI信任，以及决策重要性（stakes）和结果有利性（outcome favourability）如何调节这一关系。

解决方案

方法与设计

• 提出了一种实验设计，通过操控三种独立变量：
  1. 因果归因：信号表明AI决策的因果性归因是内部（源于AI本身）还是外部（取决于AI外部因素，如数据质量）。
  2. 决策重要性（stakes）：区分高风险场景（如医疗诊断）与低风险场景（如音乐推荐）。
  3. 结果有利性（favourability）：区分对参与者有利或不利的决策结果。
• 通过基于场景的实验，诱导不同归因感知，采集192名参与者的情景信任（Situational Trust）评分及开放式回答。

创新之处

• 强调因果归因这一维度对AI信任的核心影响，这是一个在信任研究中较少被直接探讨的因素。
• 同时研究因果归因与上下文因素（决策重要性和结果有利性）的交互效应，填补了AI信任领域的研究空白。
• 利用Kelley的因果归因框架（三个信息变量：共识性、独特性、一致性）精确操作因果归因，让实验具有高内在效度。

研究成果

实验发现

1. 因果归因的主要效应:

   • 当参与者将AI决策的因果性归因到外部时，他们的信任显著高于内部归因。
   • 内部归因强化了对AI的自主性和责任感的感知，进而降低了信任；外部归因则将AI视为依赖外部数据的工具，从而增强信任。

2. 因果归因与上下文因素的交互效应:

   • 在低风险场景中，外部归因较内部归因对信任的增强作用更为显著。
   • 在高风险场景中，尽管外部归因仍提升信任，但参与者总体对高风险AI场景的信任依然较低，表明风险感知在这些场景中起主导作用。

3. 结果有利性的独立效应:

   • 结果对用户有利时，信任显著提高；不利结果则降低信任。
   • 但结果有利性并未显著调节因果归因对信任的影响。

对现有解决方案的优势

相比现有信任校准方法（如可信度分数或解释），此方法关注用户理解中因果归因的关键作用，能够捕捉到信任形成过程中的认知机制，更有针对性地优化人机交互设计。

局限与未来工作

• 局限性:
  • 仅研究了因果归因的两种极端情况（内部/外部），未考虑复杂情境下因果性的共享或动态变化。
  • 实验使用的AI系统为假设场景，未涉及真实AI应用场景可能引入的变量。
  • 未探讨AI透明度或解释性设计如何与因果归因感知共同作用。
• 未来方向:
  • 考察因果归因在共享决策或协作场景中的动态变化。
  • 针对真实AI系统用户群体验证信任模型的适用性。
  • 探索高风险场景下的信任校准策略，例如增加AI决策的透明度或引入人类监督。

总结与启示

该研究首次明确了因果归因对AI信任的核心影响以及不同情境中的调节特性。研究建议：

1. 在人机交互中明确信号AI决策背后的因果机制，如将AI描述为依赖外部输入的数据工具。
2. 为高风险情境开发特定信任校准策略，如结合因果归因和增强透明性的方法。
3. 避免过度描绘AI系统的自主性和智能性，以减少对AI的过多期望和怀疑情绪。

通过更清晰地传达AI决策的因果性，研究为提升用户对AI的适当信任（而非盲目信任）提供了理论支持和实践指导。