有罪的人工心智：民间对人工智能代理的蓄意过错与罪责归属

视频

DOI

虽然哲学家认为指责机器人或使其承担道德责任显然是荒谬的（例如 Sparrow, 2007），但一系列最近的实证研究表明，人们在某些情况下确实会将责任归咎于 AI 系统和机器人（例如 Malle et al. 2016）。这令人担忧：责任可能从 AI 系统的所有者、用户或设计者转移到系统本身，导致责任人（人类代理）的问责减少（Kneer & Stuart, 2021）。本文探索机器人归因的潜在原因之一，即民间愿意将归罪性心理状态或「蓄意过错」归因于机器人。在一项基于情境的实验（N=513）中，我们向参与者呈现一个代理人故意冒险造成重大伤害的情境。我们操控了代理类型（人类、群体代理、AI 驱动机器人）和结果（中性、糟糕），并测量了道德判断（行为的错误程度和代理人的可责性）和归因于代理人的心理状态（轻率和伤害欲望）。我们发现：（i）错误和责备的判断在不同代理类型中相对相似，可能因为（ii）如预期，归因的心理状态判断在不同代理类型中也相似。这提出了一个问题——也在实验中探讨——人们是否以隐喻方式将知识和欲望归因于机器人（例如机器人「知道」而不是真正知道）。然而，（iii）根据数据，人们不愿意将蓄意过错降级为仅仅隐喻意义上的理解。最后，（iv）我们报告了一个令人惊讶的新发现，称之为机器人归因的逆向结果效应：人们不太愿意责备人工代理造成糟糕结果而非中性结果。这表明他们隐含地意识到过度归因于机器人的危险性，当伤害发生时可能导致不恰当地让人类负责者逃脱道德责任。