温暖和能力感知对用户选择AI系统的影响

文献标题

The Effects of Warmth and Competence Perceptions on Users’ Choice of an AI System

文献信息

• 主题领域: 人工智能系统的用户选择与感知
• 关键词: 人工智能, 温暖感知, 能力感知, 用户选择, 信任, 人机交互

研究背景与问题

• 发现的问题或挑战:

  • 随着人工智能（AI）系统在推荐、决策支持领域的广泛应用，用户每天面临选择多个AI系统的问题。如选择音乐流媒体应用或导航软件。
  • 传统观点认为，用户选择系统的首要依据是其“能力”（competence），即系统的能力强弱或表现准确性。
  • 然而，社会心理学研究表明，用户对人与组织的判断通常还会受“温暖”（warmth）这一维度的影响，例如对友好性、诚意、信任感等的感知。
  • 现有研究对AI能力的提升关注较多，但对用户如何感知和选择具有不同温暖和能力特征的AI系统研究缺乏。

• 重要性:

  • AI逐渐在多个领域（如住房估价、车险推荐、电影推荐）被整合进社会活动。理解用户如何基于温暖和能力维度选择系统，对于设计更适合用户需求的AI系统及提升人机交互成功率至关重要。
  • 此外，用户是否对温暖维度的偏好能超越传统对系统能力的关注，这一问题未被充分探索。

• 研究动机与相关工作:

  • 过去的研究表明，温暖和能力是人在社交判断中两个基本维度，它们也影响着对机器人和其他人工智能的判断。
  • 社交心理学指出，人在对其他人进行判断时，温暖优先级往往高于能力，但对组织的判断中能力优先。
  • 本文重点探讨这些发现是否适用于AI系统，尤其是那些无明显社交特性（如导航、推荐系统但无实体或虚拟形象）的情况下。

解决方案

• 提出的方法或解决方案:

  • 研究了用户对AI系统温暖和能力的感知对其选择行为的影响。
  • 使用六个场景调查实验，操控描述AI系统的温暖和能力特征，实验场景涵盖三大领域：住房估价、车险计划、电影推荐。
  • 测试了系统在显式表达能力与温暖（例如“高能力/低温暖”与“高温暖/低能力”组合）时对用户选择的影响。

• 创新之处:

  • 首次系统性展示了“温暖”维度在AI系统选择的影响，并提出其可能优先于“能力”维度。
  • 引入对用户“系统人性化”和“组织化”感知的调查，进一步阐述选择倾向与感知的关系。
  • 分析温暖优先的实际应用启示，对AI系统设计中如何平衡用户信任与系统表现提出深刻见解。

• 实施步骤与关键技术:

  1. 场景设置: 设计了六个独立实验，分别测试用户在冷热温暖和高低能力组合下的选择行为。
  2. 操控变量:
     • 温暖：通过描述系统的主要受益者（如用户 vs. 经纪人）、语言（友好 vs. 冷漠）等表达。
     • 能力：通过算法类型（高级神经网络 vs. 基础决策树）和训练数据规模（如百万 vs 千条数据）反映。
  3. 测量用户选择偏好、受测系统的暖与能评价以及选择后的自信程度。
  4. 测试不同领域场景和后续用户对于“人性化”和“组织化”感知的关联，并探讨用户心理（如后悔可能性）的影响。

研究成果

• 具体成果:

  1. 温暖优先效应:
     • 用户在三个领域中（房价评估、车险推荐、电影推荐），较倾向于选择高温暖的AI系统，即使该系统的能力较低。
     • 面对相互冲突的维度（如“高温暖-低能力” vs. “高能力-低温暖”），多数学者仍倾向于高温暖系统。
  2. 避免低温暖系统:
     • 用户更倾向于避免选择感知温暖低的系统，即使替代选项能力较低。
  3. 温暖与人性化关联:
     • 用户更可能将高温暖的系统视为“类人化”而非“组织化”。
     • 温暖系统倾向于通过“神圣感知Halo效应”影响对其他性能的积极评价。
  4. 自信未受损:
     • 用户选择高温暖系统后，自信程度与选择高能力系统的用户相当。

• 与现有解决方案的比较与优势:

  • 打破传统“能力优先”假设，展示了温暖作为判断标准的重要性。
  • 验证了社会心理学中对感知行为应用于AI系统时的多域普适性。

• 实验或评估结果:

  • 在六项实验中，温暖的优先性成果在多数条件下具有统计显著性（如p<0.05）。
  • 设计温暖熟练的描述提高了系统大用户选择率（如系统设计时强调用户利益或使用友善语言）。

• 局限性与未来方向:

  • 局限性:
    • 操控温暖和能力的表达方式有限，未覆盖所有可能特性（如隐私保护或开发者背景）。
    • 依靠短期实验室研究，生态效度需在现实应用场景中验证。
    • 对于高风险领域（如健康领域），可能能力更优先。
  • 未来方向:
    • 在更长时间、更复杂互动中测试温暖与能力的动态影响。
    • 结合服务价格、数据隐私等因素设计更综合的决策模型。
    • 探索个性化用户特征（如关系导向 vs. 实用导向）调节温暖与能力偏好的作用。

结论

本研究系统分析了AI系统温暖与能力的感知影响，尤其揭示了温暖在趋势选择上的领先优势。研究表明的是用户在选择系统时不仅关心功能性能，也在意系统意图的社会道德属性。在设计与发展用户友好的AI时，这些成果为开发者提供了新的设计视角，尤其要通过展示意图信任来增强接受度和用户满意度。