一种人工智能并不适合所有人：关于普通人对人工智能角色认知的聚类分析

文献标题

One AI Does Not Fit All: A Cluster Analysis of the Laypeople’s Perception of AI Roles

文献信息

• 主题领域: 人工智能认知与人机交互
• 关键词: 人工智能 (AI), 人机交互 (HAII), 人类参与, AI自主性, 可信度, 态度, 社会认可, 聚类分析

研究背景与问题

• 问题与挑战:

  • 当前关于人工智能 (AI) 的研究，要么将AI视为单一实体，要么分别研究其特定应用场景，但两者皆存在局限。
  • AI的多样化角色使得公众对不同类型AI的评估方式存在差异，忽视这种多样性可能会导致生态效度不足。
  • 如何在研究结果的通用性与具体场景之间取得平衡？如何创建跨领域的统一设计框架？

• 重要性:

  • 随着AI在日常生活中的普及，例如虚拟助手、自动驾驶系统等，认知并优化人与AI的交互尤为关键。
  • 理解公众对AI多样化角色的感知可以更好地指导设计并提升AI的社会接受度。

• 研究动机与相关工作:

  • 总结并分类了AI的不同功能角色，例如助手、工具、仆人等，通过理论创新填补现有研究中数据驱动分类的空白。
  • 借助以往对AI心智感知、控制感知及道德代理的研究理论，提炼出人类对于AI的核心感知维度。

解决方案

• 方法或解决方案:

  • 使用计算方法对AI角色进行分类，采用主成分分析 (PCA) 提取人类感知中最核心的维度，即“AI自主性”和“人类参与”。
  • 基于上述维度，对10种日常生活中的常见AI角色进行聚类分析，最终形成四个主要类别：AI工具、AI仆人、AI助手及AI中介者。

• 创新之处:

  • 提出了一种结合理论和数据驱动的分类框架，平衡了研究通用性和具体场景的生态效度。
  • 强调了AI自主性与人类参与的平衡，有助于设计更受用户信赖且能够被合理依赖的AI系统。

• 关键技术与步骤:

  • 统计分析: 主成分分析用于减少理论维度，将六个变量（心智感知、控制感知和道德代理的子维度）归纳为两个。
  • 聚类分析: 使用标准化数据与k均值聚类法，最终确定四个AI角色类别。
  • 调查方法: 对727名参与者进行在线问卷调查，测量他们对不同AI角色的感知。

研究成果

• 具体成果:

  • 确定了四类AI角色：工具 (低自主性、低人类参与)、仆人 (高人类参与、低自主性)、助手 (低人类参与、高自主性)、中介者 (高自主性、高人类参与)。
  • 对AI中介者的评估最为正面，可信度、态度以及社会认可度均最高；AI工具评估最为负面。
  • 不同人口学变量如性别、种族、年龄和教育水平显著影响对AI的感知评价。

• 与现有解决方案的比较优势:

  • 该研究兼顾了理论与数据驱动分析，为分类AI角色及优化其设计提供了重要参考。
  • 聚类分析结果具有实际应用价值，可用于提升用户对AI的认可度与信任度。

• 实验或评估结果:

  • PCA提取出的两个维度解释了50%的用户感知总方差。
  • 人们更偏好高自主性但同时允许人类参与的AI角色，如“中介者”，这支持了人机协作的重要性。

• 局限性与未来方向:

  • 局限：所研究的10种AI角色并未涵盖所有可能的AI应用场景，例如法官、艺术家等。
  • 展望：未来可扩展到更多AI角色及任务上下文；探索其他维度（例如触觉性或风险等级）对AI角色分类的影响。

总结与应用建议

• 核心观点:

  • 平衡AI自主性与人类参与对于提升用户对AI的认可度至关重要。
  • AI设计应避免简单地增强自动性或控制性，而是通过合理的协作设计促进适当信任。

• 实践应用:

  • 优化AI工具，例如客服机器人，使其具备更高自主性和更强用户控制感；
  • 提高AI辅助者的解释性与透明性，增加用户对其决策过程的理解；
  • 设计综合中介系统，将用户与AI结合控制权，避免信任错配。