责备人类和机器：什么塑造了人们对算法伤害的反应

文献标题

Blaming Humans and Machines: What Shapes People’s Reactions to Algorithmic Harm

文献信息

• 主题领域: 人机交互、算法伦理、人工智能
• 关键词: 人工智能、责任归因、伦理、解释性、决策、算法偏差、公平性、人机交互

研究背景与问题

• 问题与挑战:
  • 越来越多的人工智能(AI)系统被用于高风险场景（如医疗诊断、招聘等），其潜在的伦理影响引发关注。
  • 现有研究揭示，AI系统可能产生性别、种族等多方面的偏见，甚至带来直接伤害（如驾驶致死事件）。
  • 对于算法带来的伤害，人们的反应存在矛盾——有的情况下会宽容，而有的则产生愤怒甚至破坏行为。
• 重要性:
  • 理解人们对算法伤害的反应及其归责方式，对管理、开发及推广AI系统至关重要。
  • 问题涉及AI如何融入社会道德框架及对应的公共政策设计。
• 研究动机与相关工作:
  • 哲学层面：就机器是否具备被责备的属性（如自我意识、责任感受）产生争论。
  • 实证层面：已有研究表明人们对AI和机器人的归责与对人类的归责不同，但缺乏对如何归责的系统性探讨。

解决方案

• 方法与创新:
  • 提出通过多实验设计探讨不同因素（如AI解释性、伤害感知、公平性）如何影响人们对AI系统、其开发者和使用者的归责。
  • 创新点包括使用三组实验（总参与者数为1153）深入比较不同归责行为的驱动机制。
• 实施步骤:
  1. 实验设计：
     • 实验1：测试AI解释性对归责的影响，使用招聘场景，包括无解释、基于经验解释和歧视性解释三种条件。
     • 实验2：引入“感知伤害程度”维度，采用医疗场景，观察归责行为在非致命和致命后果条件下的差异。
     • 实验3：探索AI自主性是否影响归责行为，并进一步区分合法与违法歧视解释。
  2. 数据收集与评估：
     • 使用问卷记录参与者对AI系统及相关人类行为体的归责态度，并结合对公平性、解释性等因素的感知记录。
  3. 元分析：
     • 为验证实验一致性，对三次实验结果进行内部元分析。

研究成果

• 主要发现:

  • AI系统的解释性:
    • 仅提供解释并不会显著影响人们对AI系统或其开发者及使用者的归责。
    • 如果解释涉及歧视性因素，会明显增加对开发者和使用者的归责，但对AI系统本身的归责变化有限。
  • 感知伤害与公平性:
    • 伤害感知驱动归责更多集中在AI使用者（如医院）。
    • 公平性主要影响开发者被归责的程度。
    • AI系统本身的归责独立于公平性，这与人类的归责模式显著不同。
  • 对AI的态度:
    • 那些认为AI可以被“责备”的人对AI系统的归责程度高。
    • 相反，那些否认AI可被归责的人仅将有限责任归于AI，而更多责备人类开发者和使用者。
  • AI归责与开发者/使用者的关系:
    • 归责AI系统不会显著减少对开发者或使用者的归责。

• 政策与设计启示:

  • 新技术的设计与部署需考虑公众对归责分配的期待。
  • 在高风险场景中，开发者应负主要责任，而用户需要谨慎采用并缓解可能的风险。
  • 公共政策中可考虑引入联合与按比例的责任分担模型。

• 局限性与未来方向:

  • 实验基于虚拟场景，可能未充分捕捉真实世界中的情境复杂性。
  • 除了“公平性”和“伤害感知”，未来可探究其他伦理维度（如意图性）如何影响归责行为。
  • 建议进一步探讨不同文化背景、经历与人群如何塑造对算法伤害的反应。