澄清还是混淆？：理解老年用户与电子商务中真实世界可解释人工智能的交互

文献标题

Clarifying or Complicating?: Understanding Older Adults' Engagement with Real-World XAI in E-Commerce

出版信息

• 主题领域: 电子商务中的可解释人工智能 (XAI)，重点关注老年用户。
• 关键词: 可解释人工智能，推荐系统，老年用户，电子商务，个性化，信任校准，透明性，用户模型仪表板，全局解释，局部解释。

背景与问题

• 问题/挑战: 大多数 XAI 研究集中于年轻、技术熟练的用户，尚未解决老年用户在真实场景中如何使用可解释性功能的问题。老年用户经常忽视或误解这些功能，从而限制了其有效性。
• 重要性: 随着老年人在数字市场中的参与度增加，理解他们与 XAI 的交互至关重要。有效的 XAI 可以提高电子商务系统对这一人群的信任度、透明性和用户满意度。
• 动机与相关工作: 以往的研究主要在受控环境中测试 XAI 原型，研究对象多为西方、熟悉 AI 的参与者。这导致对包括老年人在内的多样化人群如何使用已部署的 XAI 系统的理解存在空白。本文基于信任校准、个性化以及老年人对 AI 态度的研究展开。

解决方案

• 提出的方法: 针对老年用户如何使用三种 XAI 功能（全局解释、局部解释和用户模型仪表板）进行定性研究，研究平台为韩国主要电子商务平台 NAVER Shopping。
• 创新性:
  1. 提供老年用户在真实场景中使用可解释推荐系统的经验性见解。
  2. 识别出老年用户在解释设计中反复出现的三种张力：意识、评估和透明性。
  3. 提出解决这些张力的设计策略，创建更具包容性的 XAI 系统。
• 研究流程与关键技术:
  • 进行了 20 名 60 岁以上老年用户的半结构化访谈和边操作边思考会话。
  • 参与者在自己的智能手机上探索 XAI 功能（全局解释、局部解释和用户模型仪表板）。
  • 使用反思性主题分析识别参与者感知和交互中的模式。

研究结果

• 具体发现:
  • 个性化推荐经常被忽视或被误解为广告。
  • 全局解释提高了意识，但对信任的影响两极分化——部分参与者依赖算法权威，另一些则将其视为营销话术。
  • 基于用户行为的局部解释改善了相关性评估，并重新校准了用户的怀疑态度。
  • 用户模型仪表板增强了理解和控制，但也引发了对监控和数据暴露的担忧。
• 相较基线的优势: 研究表明，分层的 XAI 功能（全局、局部和用户档案级别的解释）能够满足多样化用户需求，为个性化、信任校准和透明性提供了有价值的见解。
• 实验/评估:
  • 参与者通过韩国的 Daangn Market 和 NAVER BAND 平台招募。
  • 研究设计包括基线访谈和引导式 XAI 功能交互。
  • 数据分析涵盖 1,428 分钟的音频记录和主题编码。
• 局限性与未来工作:
  • 样本量小且文化背景（韩国）限制了研究的普适性。
  • 仅聚焦于单一平台 NAVER Shopping；未来研究应比较多个平台。
  • 未研究用户感知的长期变化；未来应探索持续交互的影响。
  • 提出的设计策略具有解释性，需通过实验验证。

总结

本研究探讨了老年用户在 NAVER Shopping 中使用分层 XAI 功能的情况，揭示了他们在个性化、信任和透明性方面的多样化心理模型和混合反应。研究识别了影响老年用户 XAI 体验的三大关键张力——意识、评估和透明性。研究结果为设计策略提供了指导，包括使个性化提示更清晰、将系统级解释与项目级理由相连接，以及将透明性呈现为可控资源。这些见解有助于开发符合老年用户推理过程、目标和舒适边界的包容性和自适应 XAI 系统。