深思熟虑的解释：可解释人工智能研究中心智归因的普遍性和影响

DOI

当用户将人工智能系统感知为有思想的独立主体时，他们会让人工智能系统承担责任，而不是创造和设计这些系统的人工智能专家。迄今为止，是否解释通过使用如"think"这样的心智归因动词支持这种责任转移尚未得到研究。为了更好理解心智归因解释的普遍性，我们分析了来自Semantic Scholar开放研究 corpus（S2ORC）的3533篇可解释人工智能（XAI）研究文章中的人工智能解释。使用语义转变检测方法，我们确定了三种主导的心智归因类型：（1）隐喻性（如"to learn"或"to predict"）、（2）意识性（如"to consider"）和（3）能动性（如"to make decisions"）。然后，我们通过一项基于情景的实验分析心智归因解释对责任意识的影响，实验有199名参与者。我们发现，被给予心智归因解释的参与者更有可能将人工智能系统评定为意识到它造成的伤害。此外，心智归因解释具有掩盖责任的效果：考虑人工智能专家的参与导致对给予非心智归因或无解释的参与者的AI责任评级降低。相比之下，阅读心智归因解释的参与者尽管考虑到人工智能专家的参与，仍然将人工智能系统视为承担责任。综上所述，我们的工作强调了需要在科学写作中仔细措辞关于人工智能系统的解释，以减少心智归因并明确传达人类责任。