无缝隙可解释AI（XAI）操作化：将接缝设计应用于XAI

DOI

AI系统的错误不可避免，源于技术限制和社会技术差距。虽然黑箱化AI可实现无缝用户体验，但隐藏接缝会削弱用户应对AI错误后果的能力。虽然可解释AI（XAI）主要解决算法不透明问题，但我们提出接缝设计可通过策略性揭示社会技术和基础设施不匹配来促进以人为中心的XAI。我们引入接缝XAI概念：（1）将「接缝」概念转移到AI情境；（2）开发帮助利益相关者设计接缝的设计过程，从而增强可解释性和用户能动性。我们与43位AI从业者和用户使用基于真实用例的场景设计活动探索这一过程，分享了实证见解、影响及批判性反思，探讨此过程如何帮助从业者预测和设计AI中的接缝、如何提升可解释性、赋能终端用户及促进负责任AI。