超越康德和边沁：伦理理论如何在人工智能道德代理中被使用

文献标题

Beyond Kant and Bentham: How Ethical Theories are being Used in Artificial Moral Agents

文献信息

• 主题领域: 人工智能伦理，尤其是人工道德智能体 (AMAs) 的研究与伦理理论的应用。
• 关键词: 伦理学，哲学，人工道德智能体，文献综述，义务论，结果论，美德伦理学，儒家伦理，土著伦理学。

研究背景与问题

• 问题或挑战:
  • 如何在人工道德智能体中实现和编码伦理规范？
  • AMAs 的当前发展是否仅局限于某些伦理学范式，例如义务论和结果论？
  • 是否存在跨文化和跨学科的偏重，导致其他伦理框架被忽略？
• 研究重要性:
  • 随着自动驾驶汽车、养老机器人和自动化金融系统的普及，机器是否能够以符合道德的方式行事变得尤为重要。
  • 当前仅以西方哲学伦理为主导的机器伦理研究可能阻碍全球范围的伦理价值多样性。
• 动机与相关工作:
  • 过去的研究将义务论和结果论广泛应用于机器伦理领域，但针对其他哲学理论（如儒家与土著伦理）的探讨较少。
  • AMAs 的实践仍缺乏详细的实证资料。

解决方案

• 提出的方法或解决方案:

  • 针对 AMAs 的多学科文献综述，涵盖伦理理论的应用，其中包括西方范式（如义务论和结果论）和非西方范式（如儒家伦理和土著伦理）。
  • 对现有文献进行分类与主题分析，从而揭示哪些伦理理论最常被采用，以及它们是如何被实施的。

• 创新之处:

  • 不局限于典型的道德决策框架（如规则和后果），还探讨了美德伦理学、儒家伦理、土著伦理和存在主义等具有潜力但鲜有研究的领域。
  • 强调了伦理理论与人机交互 (HCI) 的结合可能在设计公平、负责任的人工智能上的作用。

• 实施步骤和关键技术:

  • 文献构建：从 ACM、IEEE、参考引用中筛选关键词“机器伦理”与相关术语，最终选取了53篇论文作为研究文献。
  • 方法学框架：基于具体伦理理论（如义务论、结果论、美德伦理等）和论文方法（如技术实现、理论分析、实证研究）对文献内容进行分类化标注。

研究成果

• 具体成果:

  1. 53篇文章中，46篇主要集中于义务论和结果论及其补充理论（如双重效应原则和罗斯伦理理论），少量文章探索了非西方范式（儒家伦理、土著伦理等）。
  2. 研究强调开发 AMAs 时可能存在的西方伦理中心化问题，可能阻碍更广泛伦理价值的实践。
  3. 在实施角度，大多数学术论文集中在技术实现与理论分析，很少涉及实际环境中的实证研究。

• 与现有解决方案的比较:

  • 当前大多数研究仅限于分析性辩论或技术提案，缺乏实证研究来检验和验证理论。
  • 本研究指出，过度依赖义务论/结果论框架会导致 AMAs 的限制性开发，忽视其他文化伦理提供的全球多样性视角。

• 实验或评估结果:

  • 一些实证研究发现，当使用基于西方伦理范式（如义务论和结果论）的决策模型构建 AMAs 时，公众可能对这些决策的接受度较低。
  • 儒家伦理等重视关系与社会角色的范式有助于开发更有意义的人机关系。

• 局限性与未来方向:

  1. 当前限制:
     • 文献主要集中在西方背景，缺乏对其他哲学传统（如存在主义、土著伦理学）的深度实证探讨。
     • HCI 社区尚未充分开发 AMAs 在真实社会场景中的潜在实践。
  2. 未来方向:
     • 鼓励探索非西方哲学传统，特别是儒家伦理、存在主义、土著视角等在 AMAs 中的应用。
     • 推进实证研究，从实践中评估 AMAs 如何影响人类决策并受到社会接纳。
     • 开发更多融入关系和长期反馈机制的美德伦理与道德发展框架。

通过这项研究，作者不仅对 AMAs 的主流伦理框架进行了描述与总结，还提出了促进多样化、多文化背景下机器伦理研究与实践的重要建议。这些观点为 HCI 和 AI 社区进一步发展能真实用于社会的道德机器奠定了理论基础。