自主性和感知性心智模型影响对人工智能的反应

文献标题

Mental Models of Autonomy and Sentience Shape Reactions to AI

出版信息

• 主题领域: 人机交互 (HCI) 与人工智能感知中的心理模型。
• 关键词: 人工智能自主性, 人工智能感知能力, 心理模型, 人机交互, 心智感知, 道德考量, 感知威胁, 人工智能治理, 拟人化, 数字心智。

背景与问题

• 问题 / 挑战: 人们在公共叙事和研究中常常将人工智能的自主性与感知能力的心理模型混为一谈，导致对它们在影响人类对人工智能系统反应中的独立和联合作用缺乏系统性理解。
• 重要性: 理解这些心理模型对于改进人工智能设计、促进积极的人机交互以及在日益拟人化的人工智能系统背景下制定治理和政策决策至关重要。
• 动机与相关研究: 先前的研究探讨了人工智能作为不透明、无情感或自主的心理模型，但未能区分自主性和感知能力。这些模型影响信任、道德考量和威胁感知，但其独立和交互作用尚未得到充分探索。

解决方案

• 提出的方法: 本研究通过一系列试点研究和实验，区分自主性和感知能力的心理模型，利用情景短文激活这些模型，并测量它们对心智感知、道德考量、感知威胁和政策偏好的影响。
• 创新点:
  1. 系统性区分人工智能心理模型中的自主性和感知能力。
  2. 通过四项实验和一项元分析提供其独立和联合作用的实证证据。
  3. 揭示这些心理模型对人机交互、设计和政策的下游影响。
  4. 提供设计人工智能系统和促进人工智能素养的实际建议。
• 程序与关键技术:
  • 进行了三项试点研究 (N = 374) 以绘制心理模型内容。
  • 进行了四项基于情景短文的实验 (N = 2,702)，操控假设人工智能助手的自主性和感知能力。
  • 测量了心智感知、道德考量、感知威胁和对人工智能监管支持等结果。
  • 通过元分析比较自主性和感知能力效应的大小。

结果

• 具体发现:
  • 感知能力对心智感知的影响大于自主性 (Cohen’s d = 0.92 vs. 0.72)。
  • 自主性增加了感知伤害，但未提高对人工智能监管的政策支持。
  • 自主性和感知能力的结合产生了最高的心智感知，而两者的缺失则产生了最低的心智感知。
  • 感知能力比自主性更能提高道德考量。
• 相较基线的优势:
  • 区分自主性和感知能力揭示了将人工智能视为单一类别时无法捕捉的细微效应。
  • 感知能力被证明是自主性感知的基础，突出了其在心智感知中的核心作用。
• 实验 / 评估:
  • 实验1: 自主性提高了心智感知、道德考量和感知伤害 (N = 254)。
  • 实验2: 感知能力提高了心智感知、道德考量和政策支持 (N = 256)。
  • 实验3: 自主性和感知能力的结合产生了最高的心智感知和道德考量 (N = 741)。
  • 实验4: 移除明确标签后，自主性和感知能力效应依然显著 (N = 1,451)。
  • 元分析证实感知能力效应在所有实验中均大于自主性效应。
• 局限性与未来工作:
  • 人工智能感知能力的假设性质限制了其现实适用性。
  • 需要进一步探索自主性、感知能力与其他心理模型（如拟人化）之间的交互作用。
  • 未来研究应考察长期心理模型更新及其对人机交互的影响。

总结

本研究区分了人工智能中的自主性和感知能力心理模型，展示了它们对心智感知、道德考量、感知威胁和政策偏好的独立和联合作用。感知能力比自主性具有更强的影响力，奠定了自主性感知的基础并驱动了道德考量。自主性增加了感知伤害，但未提高政策支持。这些发现为人工智能设计提供了指导，强调需要针对性地调整自主性和感知能力线索以符合用户预期，同时避免误导性表征。研究结果还突出了人工智能素养和细致治理的重要性，以应对公众认知并促进积极的人机交互。