人类对人工智能道德责任的看法：一项关于人工智能辅助保释决策的案例研究

文献标题

Human Perceptions on Moral Responsibility of AI: A Case Study in AI-Assisted Bail Decision-Making

文献信息

• 主题领域: 人工智能伦理、道德责任、AI与决策支持
• 关键词: AI，道德责任，责任，道德判断，责备，责任归属，COMPAS，保释决策

研究背景与问题

• 问题或挑战: 当人工智能系统造成伤害时，谁应该为后果负责？人工智能的高自主性和学习能力让责任归属问题变得复杂，被研究者称为“责任鸿沟”。目前关于这一问题的讨论大多集中在伦理原则和理论框架上，但尚缺乏实践性指导。
• 重要性: 人工智能的广泛使用对法律、道德以及社会秩序产生了深远影响，解决责任归属问题不仅关乎技术发展的伦理化，还直接影响人类对AI的接受度和信任感。
• 研究动机与相关工作:
  • 提议设计者对AI系统的行为负责的观点逐渐增多，但仍存在对于是否可以赋予AI系统责任的争论。
  • 许多研究聚焦于哲学和理论层面的责任讨论，缺乏公众对AI道德责任归属的实证研究。
  • 本研究旨在使用调查数据更深入地理解公众如何看待AI与人类在高风险决策场景中的责任归属。

解决方案

• 方法或解决方案:
  • 设计两个实验，以调查公众对AI与人类在保释决策场景中的责任归属看法。
    • 实验1: 研究AI或人类作为顾问时的道德责任归属。
    • 实验2: 探讨AI或人类作为最终决策者时的责任归属。
  • 收集公众对八种责任概念的评判，这些概念源于哲学和心理学文献，包括“责任-作为任务”、“责任-作为权威”、“责任-作为义务”等。
  • 使用真实数据（如COMPAS工具的保释建议数据）构建实验场景。
• 创新之处:
  • 综合性地衡量公众对多个责任属性的看法，而不仅仅局限于单一领域（例如责备或惩罚）。
  • 结合真实世界的AI应用背景与实验设计，增强研究的真实性。
• 实施步骤:
  • 使用因子设计法，通过随机选择的案例来测试责任归属，观察实验参与者在不同条件下对责任概念的量化评价。
  • 数据分析使用线性混合效应模型以控制被试间的个体差异。

研究成果

• 具体成果:
  • 公众认为AI和人类都应该对其行为负责，但表现形式存在差异：
    • 人类被认为更应该承担“任务完成”或“监督责任”等前瞻性责任。
    • AI与人类在“因果责任”、责备、赔偿等过去面向的责任归属上则无显著差异。
  • 无论是AI顾问还是人类顾问，公众希望两者都能够解释其决策过程，表明了对可解释性AI的广泛需求。
• 优势:
  • 与现有理论性研究相比，本研究的实证数据为AI伦理及政策设计提供了重要参考。
  • 突出AI在人类监督与法律领域中的实际责任感知，有助于优化人机协作模型。
• 实验或评估结果:
  • 两个实验中，人类普遍被认为拥有完成任务的能力和义务，而AI被赋予这些责任的程度较低。
  • 在责备、因果归属等方面，AI虽被认为不可拥有“人类品质”，但其责任水平与人类近乎一致。
• 局限性与未来方向:
  • 局限性：
    • 实验基于特定场景（例如保释决策），结果或难以扩展至其他领域，例如医疗或自动驾驶。
    • 未涉及AI与人类间可能产生意见分歧的情况（如建议与执行不一致）。
  • 未来方向：
    • 探索更广泛的责任场景特别是高风险领域中的责任归属。
    • 研究如何将公众的责任感知嵌入AI设计流程，例如说明性算法的规范化。
    • 调查更多责任概念，尤其是未对AI系统广泛适用的美德责任属性。

总结

本研究揭示了公众对AI与人类在高风险决策中的责任归属不同程度的感知，明确了对AI系统可解释性及其道德责任的需求，为AI技术的伦理化设计与政策制定提供了启示。