关于AI的数据理解/与AI一起理解数据：解读高风险工业情境中设计专业人员的的数据理解风格

文献标题

Sensemaking With/About AI: Unpacking Design Professionals’ Data Sensemaking Styles in a High-Stakes Industrial Context

出版信息

• 主题领域: 高风险用户体验设计环境中的AI支持数据理解。
• 关键词: AI支持工具、数据理解、用户体验设计、高风险设计、卡车交互设计、AI素养、人机协作、理解策略、可解释性、交互式原型。

背景与问题

• 问题/挑战: 关于设计师如何在高风险的真实环境（如车辆设计）中利用AI进行数据理解的研究有限。现有工具往往无法有效应对AI输出的不确定性和复杂性，也难以融入专业工作流程。
• 意义: 在安全性、法规和责任要求严格的高风险领域，理解和改进AI支持的数据理解至关重要，因为这些领域需要基于数据的可辩护设计决策。
• 动机与相关工作: 之前的研究探讨了AI在任务自动化和洞察生成中的作用，但未充分关注设计师在真实高风险环境中如何解释和验证AI输出。本研究基于现有的理解理论和人机协作理论，填补这一研究空白。

解决方案

• 提出的方法: 针对高风险工业环境中的卡车交互设计，协同设计并评估一个AI支持的数据理解原型。
• 创新点:
  1. 描述了三种理解风格（专家启发式、数据驱动分析、动态理解）在AI支持设计中的表现。
  2. 识别了AI与数据在理解过程中的双向关系。
  3. 提出了支持多样化理解方法、提升AI素养以及提供交互性和可解释性功能的工具设计建议。
• 流程与关键技术:
  1. 第一阶段：原型协同设计: 通过观察、研讨会和迭代设计，开发一个高保真原型，包含AI生成的场景摘要、可解释性元素和交互控制等功能。
  2. 第二阶段：原型评估: 与来自卡车行业的17名参与者进行“边思考边操作”测试，探索他们如何解释AI生成的洞察并使用工具功能。

结果

• 具体发现:
  • 发现了AI帮助解释数据、数据验证AI输出的双向关系。
  • 提炼出三种理解风格：专家启发式（依赖领域专业知识）、数据驱动分析（频繁与数据交叉验证）、动态理解（灵活结合专业知识、数据和交互）。
  • 参与者强调可解释性、细粒度数据访问和交互控制对有效理解的重要性。
• 相较基线的优势: 原型帮助设计师更有效地探索用户场景、将AI输出置于上下文中，并解决高风险设计决策中的不确定性，优于传统静态数据可视化工具。
• 实验/评估:
  • 参与者: 17名卡车设计领域的专业人士，平均从业经验超过5年。
  • 任务: 探索AI生成的用户场景、验证输出，并与聚类、时间线和异常检测等功能交互。
  • 指标: 对理解策略、信任水平和感知控制的定性主题分析。
• 局限性与未来工作:
  • 研究基于原型而非完整系统；未来需要纵向研究以观察理解策略的演变。
  • 仅限于经验丰富的卡车设计师；未来应探索不同经验水平和其他高风险领域。
  • 需进一步研究如何优化AI素养培养以及交互功能（如可追溯性和可引导性）。

总结

本研究以卡车交互设计为案例，探讨了用户体验设计师如何利用AI理解高风险环境中的交互数据。研究识别了AI与数据在理解过程中的双向关系，并归纳出三种独特的理解风格。协同设计的原型展示了交互性和可解释性功能在支持多样化理解策略和提升AI素养方面的重要性。这些发现为设计AI支持工具提供了可操作的见解，旨在高风险专业环境中赋能设计师进行批判性和动态的数据交互。