我应该跟随人类还是机器人？——拥有权力的机器人可能比人类更有影响力来影响决策

文献标题

“Should I Follow the Human, or Follow the Robot?” — Robots in Power Can Have More Influence Than Humans on Decision-Making

文献信息

• 主题领域: 人机交互 (HRI) 和人机智能交互 (HAI) 中的权力影响研究
• 关键词: 机器人、智能代理、人机交互、社会权力、权威、影响力、人-机器人混合团队、决策

研究背景与问题

• 发现的问题或挑战: 随着人工智能和机器人逐渐在工作场景中占据更重要的位置，它们可能与人类竞争权力和影响力，但在这种竞争中权力如何影响人的决策行为仍不明确。
• 重要性: 在机器人和智能代理变得具有权力时，它们可能影响团队协作、决策过程甚至社会结构，理解这种影响对于设计可控的智能系统和减轻社会伦理风险至关重要。
• 研究动机与相关工作:
  • 之前的研究表明权力和权威能使机器人变得更具影响力，但这些研究多集中在单人—单机器交互，缺乏在群体（多人—机器人混合场景）中的探讨。
  • 通过支持系统增强机器人和人的合作能力，相关研究发现权力可以显著改变人类对机器人的接受度，但针对权力与机器人类型的交互效应缺乏直接对比。

解决方案

• 提出的方法和解决方案:
  • 创建了一个实验框架，将参与者分入两种“权力赋予条件”（机器人为领导人类为领导）以及一个“无权力差异”控制组，考察权力和代理类型对决策的影响。
  • 使用法国和弗雷文提出的“权力基础框架”，通过赋予团队领导者“分配奖金权”以及“合法领导角色”等方式操作权力。
• 创新之处:
  • 实验设计独特，通过模拟复杂但可控的“三人小组”（两人一机），直接比较人类与机器人在权力赋予后的影响力差异。
  • 提供了量化权力效应的创新方法，通过参与者决策从初始到最终的改变程度衡量权力和代理类型的影响。
• 具体步骤与关键技术:
  • 在任务中，参与者首先提交个人建议，随后看到机器人和人类伙伴的建议，最后在权力条件下做出最终建议；最终记录参与者的决策变化以量化影响程度。
  • 实验中借助自动化生成的虚拟操作和系统反馈，保证逻辑与任务流程真实且科学。

研究成果

• 具体成果:
  • 权力的作用: 被赋予权力的机器人或人类对参与者决策的影响力显著大于无权力者。
  • 机器人影响力: 即使参与者对人类有着更积极的态度，高权力机器人仍可比低权力人类更有影响力。
  • 人类态度优越性: 人类被认为更智能、更温暖且引起的生理不适更少，但高权力机器人同样被视为更具“能力”且能压制人类影响。
  • 与已有研究对比显示权力因素比代理类型更能决定影响力方向。
• 实验或评估结果:
  • 使用单因子方差分析和多组T检验分析发现权力对“领导影响指数”的显著作用。
  • 在控制条件中，权力差异消失，人类与机器人影响力无显著差别。
  • 通过量化的“团队成员感知”构建分析模型，进一步确认权力改变了参与者对机器人的能力认知，但未改变对机器人智能的认知。
• 局限性与未来方向:
  • 目前实验场景单一，仅限于三人小组中的咨询情境；未来需要扩展至复杂的团队结构、多任务类型或独立的物理机器人场景。
  • 权力的操作集中在“合法权力”和“奖励权力”，缺乏对其他权力类型的探讨（如强制权力、专家权力）；未来研究需探索这些类型与代理类型的交互效应。
  • 虚拟实验中，机器人形象的缺乏可能限制真实场景互动的泛化结论；未来应使用实体机器人以增强生态效度。

讨论与设计启示

• 理论贡献:
  • 证明了权力是比代理类型更重要的决定性因素，它不但影响决策行为，还能改变参与者对代理的能力判断。
  • 跨领域启示：虽然实验集中于机器人，但类似机制和结论在人工智能支持系统中同样可能适用，两者在社会层面影响的研究需更加深入融合。
• 设计建议:
  • 在智能系统设计中主动考虑权力因素：通过设置显性权力（如奖励系统）提升机器人或AI的接受度和用户信任。
  • 设计中需避免权力过度强化，防止AI或智能机器人在人机协作中对人类权威造成威胁；需针对社会伦理问题进行额外的规范和约束设计。
• 社会风险:
  • 机器人或AI作为领导者可能在某些场景具有优势，但其潜在社会影响广泛且深远，需进一步研究如何在实际团队中实施最优权力配置。
  • 提醒HRI/HAI领域研究者，加强对未来机器人权力趋势和对应伦理问题的洞察与探索，例如团队自主性与公平性问题。