机器人、聊天机器人、自动驾驶汽车：人工智能中关于心智和道德的认知

研究背景与问题

• 作者发现了哪些问题或挑战？
  人工智能（AI）系统在过去几年中迅速发展和普及，但目前对人们如何看待AI的心理（如感知能力）和道德特性（如责任归属）了解还不够全面。这种认知对于衡量公众对AI的信任及界定责任具有重要意义，尤其是在AI引发负面影响时。

• 为什么这个问题很重要？
  不正确的心理和道德属性归因可能导致公众欠缺信任、责任转移至AI本身而非其开发者，并可能会影响AI在高风险场景中的使用。理解这些认知有助于设计更负责任、更可靠的AI系统。

• 研究动机与相关工作
  之前的大量研究表明，人们对AI的心理和道德特性有一定归因。但这些研究通常集中在个别AI或抽象的“AI”概念上。这篇论文通过比较14种具体AI实体和12种非AI实体，为多样化AI系统提供了关于心理和道德认知的更全面图景。

解决方案

• 作者提出了哪些方法或解决方案？
  通过开展预注册的在线实验，参与者对26种实体进行心理属性（代理性、体验）与道德属性（道德代理性、道德承受能力）评分，覆盖多种AI和非AI实体。

• 该解决方案的创新之处是什么？
  相比之前的研究，这一次系统性地将心理与道德认知进行对比，同时涵盖了更广范围的实体，并探讨了不同AI系统间以及AI与非AI实体间的差异。

• 实施步骤是什么？使用了哪些关键技术？

1. 参与者招聘与样本分布：来自美国的975名参与者，通过Prolific平台招募，样本在人口属性上具有代表性。
2. 实体介绍与评价：参与者随机选择13个实体（包含AI和非AI实体），每个实体配有图像和文字描述。
3. 测量方法：每个目标实体通过两项独立问题量化心理和道德属性。这些问题基于已有问卷进行了改进。
4. 统计分析：使用混合效应回归模型分析数据并进行多对多实体差异测试，同时控制混杂变量如年龄、性别和AI熟悉度。

研究成果

• 取得了哪些具体成果？

  • AI实体被认为具有低到中等程度的代理性，而体验感知极低（如ChatGPT被认为与岩石几乎无体验能力）。
  • 在道德属性上，AI的道德代理性评分较高，一些AI实体如Tesla的自动驾驶汽车在责任归属上甚至接近非人类动物（如黑猩猩）。
  • 心理属性（代理性和体验）与道德属性（道德代理性和道德承受力）之间存在显著关联，但这些关联在AI和非AI实体间有所不同。

• 与现有解决方案相比，它有哪些优势？
  相比之前对单一AI或抽象“AI”的研究，本文提供了AI与非AI实体间归因模式的广泛比较和细致分析，为AI设计者提供了更多可操作性建议。

• 实验或评估结果是什么？

  • 跨实体评分显示AI与非AI实体在代理性和体验上的显著差异。
  • 虽然AI一般被视为低体验，但某些设计选择（如更具拟人化的外表或者情感表达）可提升其道德承受力。
  • 熟悉度对AI道德承受力的归因有明显影响。

• 局限性与未来方向

  • 文化背景：该研究局限于美国样本，不同文化可能对AI有不同的看法。
  • 实体接触：实验主要基于图片和文字描述，而非真实世界互动。
  • 测量维度：依赖两项简单问题测量心理和道德属性，未来可扩展维度以捕获更多细腻特性。

总体来说，这篇论文展示了AI系统在心理与道德认知上的显著差异，提出设计者需关注AI的规范性设计，从而正确指导公众对AI的认知。这为AI开发者提供了指导，尤其是在高风险场景下如何管理道德责任和信任问题。未来研究可以在跨文化样本和实时互动场景中继续探索，以进一步验证和扩展这些结果。