通过可解释人工智能（XAI）方法缓解对AI代理的性别刻板印象

DOI

人们经常将性别刻板印象应用于计算机化代理。现代人工智能技术争议性地运用这些刻板印象来创建强调刻板性别角色的人工智能代理，这进一步强化了通常是男性主导的社会性别规范，并使女性和非二元性别个体受到歧视。尽管HCI和CSCW社区已对此问题表示关切，但如何减轻在人工智能代理中嵌入性别刻板印象的负面影响仍知之甚少。本文提出了一种可解释人工智能（XAI）方法来缓解个体对人工智能代理的性别刻板印象。我们进行了一项在线视频情境实验，350名参与者被随机分配到3（代理性别：女性、男性、性别中立）×3（任务性别：女性化、男性化、中立）×2（是否存在人工智能解释）的18种条件之一。我们的发现确实表明，XAI通过增强参与者对代理如何得出决策的理解，并降低他们对代理人类性的评分，帮助他们避免对性别化人工智能代理应用性别刻板印象。我们通过对个体对最先进人工智能代理的性别刻板印象进行及时研究，以及推进对这些性别刻板印象潜在认知过程和机制的实证理解，为CSCW研究做出了贡献。我们还展示了可解释人工智能如何通过干扰上述认知过程来有效抑制对社会特征（即性别刻板印象）向人工智能代理的应用。本研究的见解可以为未来人工智能技术的设计提供信息，以创造一个渐进式的性别现实，逐步重塑人类的体验和根深蒂固的性别意识形态。