关于UX从业者在设计实际企业ML系统中的角色研究

文献标题

A Study of UX Practitioners' Roles in Designing Real-World, Enterprise ML Systems

文献信息

• 主题领域: 人机交互（HCI）、用户体验设计（UX），机器学习与人工智能系统的设计与开发
• 关键词: 人工智能（AI）、机器学习（ML）、用户中心设计（UCD）、设计思维、跨学科协作、设计方法学、伦理设计、复杂性管理

研究背景与问题

• 作者发现了哪些问题或挑战？

  • 当前对AI/ML系统背后设计功能的方法缺乏充分研究，尤其是在大科技企业之外的实际应用案例中。现有的用户中心设计（UCD）等设计方法在应对复杂的企业ML系统时存在局限性。
  • 设计与技术团队之间的协作以及如何将设计整合到系统功能内部机制中尚未明确。
  • 对于伦理问题（如公平性、透明性、可解释性）的关注虽然增加，但这些问题在实际设计过程中如何被解决仍不清楚。

• 为什么这个问题很重要？

  • 随着AI/ML系统在各行业的广泛应用，其设计需要同时解决复杂技术挑战和用户交互需求。
  • 企业在实践中面临着高风险应用问题（如医疗诊断和欺诈检测），其导致的后果可能是高成本甚至影响生命。

• 研究动机与相关工作

  • 作者希望通过研究跨学科团队中的UX从业者行为以填补学术领域的理论空白。
  • 现有文献多侧重于技术层面，或局限于AI/ML的交互设计，而忽视了更广泛的系统设计和团队协作。
  • 了解中小企业的AI/ML设计案例，能够补充“大型科技公司”的案例研究局限，提供更具普遍性的洞察。

解决方案

• 作者提出了哪些方法或解决方案？

  • 通过三种研究方法收集数据：在线调查（面向负责AI/ML项目的产品经理）、跨学科团队的半结构化小组访谈、与单独UX设计师的深入访谈。
  • 对调查结果进行定性和定量分析，以提炼适用的设计方法和协作模式。
  • 提出根据实际需求改进HCI设计方法的建议，包括高保真原型设计和后期迭代流程的嵌入。

• 该解决方案的创新之处是什么？

  • 作者专注于中小企业而非依靠高资源配置的大型科技公司，强调小型团队面对的真实挑战。
  • 结合实际UX设计流程与伦理思考，提出将参与式设计扩展到AI/ML复杂系统设计的建议。
  • 调研团队间协作模式，特别是如何使设计师的技能影响技术团队的功能与算法选择。

• 实施步骤是什么？使用了哪些关键技术？

  • 调查由27名产品经理参与，用于探讨设计方法和伦理考虑。
  • 小组访谈和UML（统一建模语言）工具绘制AI/ML设计流程图。
  • 使用定性编码方法将访谈数据组织成主题，以理解主要挑战点与成功案例。

研究成果

• 取得了哪些具体成果？

  1. 现有设计方法的适配：
     • UX设计师能够适应AI/ML的复杂性，将HCI技术扩展到数据变量选择、样本数据建模和后期维护中。
     • 分离UX原型设计和AI/ML原型开发的并行工作模式可以避免重复劳动。
  2. 团队协作的重要性：
     • 整体设计的成功依赖于广泛的跨学科协作，技术团队对设计技能的需求增加，设计师也参与到数据理解与选择过程中。
  3. 现有设计不足：
     • 传统HCI方法过于专注于UI和UX，忽视了设计在系统功能与算法方面的贡献。
     • 原型测试方法（如Wizard of Oz）在企业环境中效用有限，尤其是用人工数据标记的实用性受到质疑。

• 与现有解决方案相比，它有哪些优势？

  • 鼓励设计师在团队中直接参与系统功能层面的决策，而非仅限于用户界面设计。
  • 突出了设计方法理论与企业日常实践之间的差距，同时强调了后期维护（如防止算法漂移）的重要性。

• 实验或评估结果是什么？

  • 高保真原型（利用真实数据和精美设计）在团队沟通与用户获取信任上表现出超越低保真原型的优越性。
  • 作者通过参与式设计展示，帮助理解如何有效应对透明性与公平性等复杂问题。

• 局限性与未来方向

  • 局限性：
    • 样本集中在特定企业环境，可能无法完全适用于更广泛的应用场景。
    • 数据集中于采访主观反馈，与更广泛的实践尚需根据用户的实际使用情况交叉验证。
  • 未来方向：
    • 深化对UX实践与开发者间协作模式的研究，以构建改进的HCI方法学。
    • 针对复杂、高风险的AI/ML系统设计，开发专门的设计工具和框架。
    • 实现对设计伦理的标准化整合，为不同规模的企业提供AI可持续设计的工具包模板。