AI能否成为道德受害者？道德能动性与所有权感知在AI生成内容使用伦理判断中的作用

文献标题

Can AI Be a Moral Victim? The Role of Moral Patiency and Ownership Perceptions in Ethical Judgments of Using AI-Generated Content

出版信息

• 主题领域: 使用AI生成内容的伦理判断及其心理机制。
• 关键词: AI伦理、道德感受性、所有权认知、剽窃、生成式AI、拟人化、作者身份、人机协作、道德脱离、HCI。

背景与问题

• 问题/挑战: AI生成内容的剽窃行为存在伦理模糊性，包括作者身份和归属规范的不明确，以及使用AI输出时缺乏道德责任感。
• 重要性: 随着生成式AI工具逐渐融入通信、教育和创意领域，理解这些动态对于规范知识产权和伦理行为具有重要意义。
• 动机与相关研究: 先前研究表明，AI被认为缺乏自主性和情感体验，从而导致道德责任感的降低。心智感知理论强调人们对人类和AI的道德能力归因存在差异，但尚未充分理解这些认知如何影响对AI生成内容的伦理判断。

解决方案

• 提出的方法: 通过实证研究探讨道德感受性和所有权认知如何影响对涉及AI生成内容的剽窃行为的伦理评估，重点关注拟人化线索的作用。
• 创新点:
  1. 证明AI生成内容的剽窃行为比人类创作内容的剽窃行为受到更宽松的道德评判。
  2. 确定道德感受性的降低和所有权认知的增强是这种宽容的中介因素。
  3. 探讨拟人化线索（如人类化名字）如何微妙地影响所有权认知和伦理判断。
• 研究流程与关键技术:
  • 通过在线实验，邀请160名参与者评估涉及人类和AI生成内容的剽窃场景。
  • 测试三种条件：无拟人化线索的AI、有拟人化名字的AI，以及人类创作内容。
  • 使用验证量表测量道德感受性、所有权认知、内疚感、不道德性和剽窃行为。
  • 采用MANOVA和中介分析评估内容来源及拟人化线索对道德判断的影响。

结果

• 具体发现:
  • AI生成内容被认为具有较低的道德感受性（M = 2.97–3.24），而人类创作内容的道德感受性较高（M = 5.47）。
  • 参与者在使用AI生成内容时对作者的所有权归因更高（M = 4.63），而人类创作内容的所有权归因较低（M = 3.58）。
  • AI生成内容的剽窃行为被评判为不那么不道德（M = 4.11–4.41），且引发的内疚感较低（M = 4.93–5.25），相比之下，人类创作内容的剽窃行为被认为更不道德（M = 5.85）。
• 相较基准的优势: 证明了对AI剽窃行为的道德宽容源于对伤害（道德感受性）的降低和对用户所有权认知的增强，同时拟人化线索微妙地影响了所有权认知，但未改变对AI无法体验伤害的认知。
• 实验/评估:
  • 参与者评估了涉及学术论文的剽窃场景，内容重叠约70%。
  • 依赖变量包括道德感受性、所有权、内疚感、不道德性和剽窃认知。
  • 中介分析确认道德感受性和所有权认知完全中介了内容来源对道德判断的影响。
• 局限性与未来工作:
  • 由于样本来自美国大学的学生群体，普适性有限。
  • 研究集中于学术写作，未来应探索新闻或创意艺术等其他领域。
  • 未涉及上游伦理问题，如AI训练数据的实践。
  • 拟人化线索较为简单，未来研究可测试更复杂的特征。
  • 参与者评估的是第三方行为，采用自我参照设计可能揭示更强的效果。

总结

本研究探讨了为何AI生成内容的剽窃行为比人类创作内容的剽窃行为受到更宽松的评判。研究发现，对AI的道德感受性认知降低以及对人类用户的所有权归因增强是这种宽容的中介因素。拟人化线索（如人类化名字）微妙地降低了用户的所有权认知，但未改变对AI无法体验伤害的认知。这些发现揭示了人机协作中伦理判断的心理机制，并为促进负责任的AI使用提供了设计启示。