用户体验AI系统的可追溯性：考察自动化胰岛素输送（AID）系统中的主观信息处理意识

在与医学领域的人工智能交互时，用户经常面临自动化信息处理，而这些对他们来说可能是不透明的。例如，糖尿病用户可能每天与自动化胰岛素输送（AID）交互。然而，有效的AID治疗需要对不同用户具有自动化决策的可追溯性。基于人机交互研究，我们将主观信息处理意识（SIPA）作为研究用户可解释AI体验的关键构念。本研究的目的是检查用户如何体验AI算法的不同可追溯性水平。我们开发了一个基本的AID模拟，以创建现实的实验场景，N=80，我们检查了三个信息披露水平对SIPA和表现的影响。显示给用户作为胰岛素需求计算基础的属性，用户在超过60次观察后预测AID系统的计算。结果显示，反复观察后SIPA存在差异，SIPA评分随时间总体下降。支持量表有效性，SIPA与对解释的信任和满意度强相关。本研究表明，不同水平的信息披露影响可能需要多次重复才能显现。此外，高水平的信息披露可能导致SIPA与预测系统结果的表现之间的校准不当。结果表明，为了负责任的XAI设计，系统设计者可以利用预测任务来校准体验到的可追溯性。