对AI辅助决策的信任：来自系统背后的人和决策针对的人的视角

文献标题

Trust in AI-assisted Decision Making: Perspectives from Those Behind the System and Those for Whom the Decision is Made

文献信息

• 主题领域: 人工智能（AI）辅助决策中的人机信任
• 关键词: 人机信任、人工智能、决策支持、质性研究、AI开发者、决策对象

研究背景与问题

• 问题与挑战: 本研究聚焦于人类与人工智能之间在辅助决策场景中的信任问题，目前大多研究集中在直接用户（互动者）视角，缺乏对其他相关利益者（如AI开发者、决策对象）的考量。
• 重要性: 人机信任是AI技术被采纳以及优化决策过程的关键因素。在高风险领域（如医疗、金融、招聘）的AI决策系统中，理解信任的形成机制至关重要。
• 研究动机: 探究非直接用户群体（开发者及决策影响对象）对人机信任的理解与因素有助于改进AI设计，同时校准多利益相关方在信任方面的差异。

解决方案

• 研究方法: 通过半结构性访谈法，访谈了AI开发者（7人）与决策对象（7人），涉及多种高风险决策情境领域（如医疗、金融、管理等）。
• 创新之处:
  1. 探讨了人机信任的多元定义，分析不同利益相关者之间的信任动态、多样的信任影响因素。
  2. 提出“任务复杂性”作为人机信任的必要前提条件，拓展了现有人机信任的理论模型。
  3. 考察超越直接用户的其他利益相关者（如AI开发者与决策对象）的视角，指出了利益相关者对透明性、互动性、AI素养等因素的分歧。
• 实施步骤:
  1. 采访设计：依据受访者角色，调整问题聚焦于信任定义、影响因素、评估方式。
  2. 数据分析：采用归纳主题分析法，识别信任的核心主题：信任的前提条件、利益相关方的相互信任对人机信任的影响，以及关于核心信任因素的分歧。
  3. 关键技术：访谈、语义数据编码及主题归纳。

研究成果

• 具体成果:

  1. 确定了人机信任的三个必要前提条件：积极预期、决策相关风险认知、任务复杂性。
  2. 强调了人际关系（如开发者-用户关系、用户间的信任、决策者-用户信任）在塑造人机信任中的重要性。
  3. 揭示了透明性、AI素养与互动性的差异化影响：开发者偏重信息开放和工作流程透明，而决策对象更关注信息的可操作性与其在决策回路中的角色。
  4. 初步区分了“信任”（人对AI的态度）与“可信”（AI的系统属性）以及“信任相关行为”（如遵从度）。

• 与现有解决方案相比的优势:

  1. 深化了社会-技术生态中利益群体间信任关系的理解。
  2. 在已有信任理论模型中引入新维度“任务复杂性”，填补相关研究空白。
  3. 提供了具体设计建议与校准点，包括注重非用户视角及动态关系的干预方法。

• 实验或评估结果:

  1. 发现决策对象（如患者、贷款申请者）对AI的信任主要取决于对使用者及开发团队信任的间接映射。
  2. AI解释性（透明性）与交互性对信任的作用区别于开发者与决策对象，后者更关心对预测模型结果的控制权与作用点。
  3. 系统认证被认为构建信任的潜在因素，但认证机构信任度为关键。

• 局限性与未来方向:

  1. 个体差异（如用户经验、性别、背景）未全面细化，需进一步研究跨领域与跨文化差异。
  2. 本研究主要关注AI信任的组织型语境，应考察“算法供应链”中多个独立主体间信任分布的影响。
  3. 建议通过纵深调查和行动研究，探索信任崩解点与校准方法，尤其是在复杂社会技术网络中。