解构自主性：基于自由框架解释AI技术接受度

文献标题

Decomposing Autonomy: Explaining AI Technology Acceptance Through a Liberty-Based Framework

出版信息

• 主题领域: 人类在AI技术接受与交互中的自主性
• 关键词: 人类自主性, 积极自由, 消极自由, 行动主体性, AI接受, 人机交互, 自主性框架, 自由的二元性, 系统设计, 用户体验

背景与问题

• 问题/挑战: 在人机交互（HCI）研究中，自主性通常被模糊定义，并与行动主体性、控制和自由等相关概念混为一谈。这种不清晰性阻碍了可操作设计原则的制定和实证评估的开展。
• 重要性: 理解自主性对于设计符合人类价值观、支持用户目标并被广泛接受的AI系统至关重要。自主性影响着动机、幸福感以及接受AI技术的意愿。
• 动机与相关工作: 先前的研究已将自主性视为核心心理需求和AI设计的指导原则。然而，自主性在测量上不一致，其子成分也很少被区分开来。本文基于政治哲学和心理学理论，提出了一个针对人机交互（HAI）的结构化自主性框架。

解决方案

• 提出的方法: 本文引入了一个自主性概念图，将自主性分解为积极自由（追求真实目标的自由）、消极自由（免受外部约束的自由）和行动主体性（行动的所有权）。
• 创新点:
  1. 开发了一个双重自由框架（积极自由和消极自由），作为HAI中自主性的可测量构造。
  2. 通过一项包含194名参与者的视频情景研究对自主性框架进行了实证验证。
  3. 确定了积极自由、消极自由和行动主体性在预测AI系统接受度和用户体验中的不同作用。
• 过程和关键技术:
  • 基于政治哲学和HCI研究对自主性进行概念化。
  • 设计视频情景，展示不同自由水平的AI介导通信场景。
  • 使用经过验证的量表收集参与者对积极自由、消极自由和行动主体性的感知。
  • 统计分析，包括探索性和验证性因子分析、回归模型以及结构方程模型（SEM）。

结果

• 具体发现:
  • 积极自由（PL）和消极自由（NL）是高度相关但不同的构造（PL: α = .92, NL: α = .94）。
  • PL显著预测使用AI系统的意图（β = .668, p < .001），而NL显示出轻微的负面影响（β = −.106, p = .048）。
  • NL显著预测行动主体性（β = .549, p < .001），但行动主体性对使用AI系统的意图没有显著影响。
  • 参与者对AI系统的自用评分高于对他人使用的评分（M = 4.70 vs. M = 4.35, p < .001）。
• 相较基线的优势:
  • 该框架明确了自主性的子成分，与之前单一或模糊定义相比，能够进行更精确的测量并提供可操作的设计见解。
  • 实证证据支持自由维度的理论区分及其对AI接受的独特影响。
• 实验/评估:
  • 一项包含194名参与者的2x3视频情景研究，涉及两个AI场景（摘要和通知管理）和三个自由水平（低、中、高）。
  • 测量包括经过验证的量表（如UTAUT2、行动主体性感知量表）以及新开发的PL和NL构造。
  • 统计分析验证了构造的可靠性，并测试了其关系和影响的假设。
• 局限性与未来工作:
  • 情景设计未完全反映预期的PL和NL主导场景，限制了自由水平的对比。
  • 结果特定于具有生产力目标的AI介导通信场景，推广到其他领域需要进一步研究。
  • 构造测量的是主观感知而非客观条件，需要进一步工作将研究结果转化为可操作的设计指南。
  • 未来研究应探索支持自主性的AI的长期影响，并研究用户价值观和偏好的形成过程。

总结

本文提出了一个针对人机交互的创新自主性框架，将自主性分解为积极自由、消极自由和行动主体性。通过视频情景研究的实证验证表明，积极自由显著预测AI接受度，而消极自由主要影响行动主体性。研究结果强调了设计符合用户目标和价值观的AI系统的重要性，而不仅仅是最大化自由或控制。该框架为负责任的AI设计和监管提供了可操作的见解，并具有在不同AI领域中的潜在应用价值。