机器学习解释的优势：AI辅助序列预测任务中的学习改进

DOI

可解释AI研究已表明解释可提升用户对AI模型的理解、改善用户绩效并可能减少对AI预测的过度依赖。然而，这些评估主要采用静态而非动态方法，XAI对学习过程的影响较少被研究。本研究采用无上下文序列预测任务，458名参与者在80次试验中预测带噪固定序列的下一个符号。对比AI加XAI建议与无AI支持的表现，并在40次试验后撤除AI进行反转设计研究。结果显示使用XAI的用户学习速度比仅用AI或无AI支持更快，且在AI移除后表现恢复更好；然而XAI对学习的优势随任务难度增加而大幅下降。本工作展示了重复测量用户研究和多层次建模在理解XAI学习过程中的价值，表明AI解释可帮助用户学习，并为支持人机协作中学习的XAI设计提出建议。