基于认知风格和社会文化因素的AI解释偏好研究

DOI

设计具有解释自身行为能力的AI系统对于实现人类监督、促进信任、提高技术接受度、最终赋予用户权力和改善其体验至关重要。然而，可解释AI存在若干挑战，其中之一是如何从给定事件的因果历史中生成和选择解释。因果归因以及其他认知过程已被发现受社会文化因素影响，这表明不同用户群体根据其认知风格和社会文化特征，可能对AI解释存在系统性偏好差异。本文研究了信念-愿望-意图AI代理提供的解释偏好与认知风格（整体型与分析型）以及社会文化因素（如性别、教育、社会阶层、政治和宗教信仰）之间的关系。我们发现了解释偏好与认知风格及各种社会文化特征之间的关系。整体型认知风格与目标解释偏好相关，而分析型认知风格与信念解释偏好相关。影响解释偏好的社会文化变量包括性别、宗教信仰、教育程度、某些教育领域和政党归属。