设计负责任的人工智能：适应UX实践以应对负责任的人工智能挑战

文献标题

Designing Responsible AI: Adaptations of UX Practice to Meet Responsible AI Challenges

文献信息

• 主题领域: 人机交互(HCI)、用户体验(UX)、人工智能伦理（Responsible AI）
• 关键词: 人工智能伦理，用户体验设计，行业实践，AI责任性，采访研究，负责任AI设计方法，原型设计，AI用户评价

研究背景与问题

• 作者发现的问题或挑战:

  1. 当前科技领域的人工智能责任化（Responsible AI，RAI）实践尚未在用户体验设计(UX)领域得到充分研究。
  2. 大部分关于RAI的研究集中于数据标注、模型评估以及开发者工具，而忽视了模型在面向消费者应用中的洞察。
  3. RAI在传统的用户体验实践中仍属模糊领域，UX从业者的角色与责任尚未完全厘清和形式化。

• 为什么这个问题很重要:

  1. AI技术的社会风险持续上升，需要在设计阶段引入责任化的视角。
  2. 用户体验作为用户与AI交互的入口，是助推RAI技术落地与普及的关键角色。
  3. 在新兴大规模语言模型的应用设计中，UX从业者的RAI实践与行业需求之间有明显的知识和工具鸿沟。

• 研究动机与相关工作:

  1. 引入一种研究视角，探索用户体验从业者在RAI中的角色发展，并填补现有RAI领域在HCI实践方面研究的空白。
  2. 借助从业者的实地经验分析RAI的挑战与机会，进一步完善行业工具包与实践指南。

解决方案

• 作者提出的方法或解决方案:

  1. 通过多次半结构化采访，与UX从业者和RAI专家建立联系，深入探讨实践经验和设计挑战。
  2. 提炼三种新兴的实践方式以适应RAI设计需求:
     • 构建并强化RAI视角。
     • 负责任的原型设计（responsible prototyping）。
     • 负责任的AI应用评估（responsible evaluation）。

• 该解决方案的创新之处:

  1. 将用户体验设计方法与AI伦理设计原则结合，为参与者新增了一种责任化的"镜头"化视角，看待设计对社会和用户的潜在影响。
  2. 提升了用户研究方法的复杂性，使其与AI原型效用联系更紧密。
  3. 深度强调了组织文化和资源局限对RAI实践的影响，提供了应对方法和策略建议。

• 实施步骤与关键技术:

  1. 基于调研与访谈，全面识别RAI在UX从业者日常工作中的嵌套方式。
  2. 引入PromptMaker工具，协助从业者以“test-driving”方式展开模型测试，理解其可行性与潜在风险。
  3. 梳理设计和评估方法，量化参与者在AI责任化实践中的隐性工作与挑战。

研究成果

• 取得的具体成果:

  1. 总结了UX从业者在RAI应用设计中开发的三种关键实践：
     • 构建与强化RAI视角: 包括通过教育资源、讨论框架、团队文化建设，提升设计团队对RAI问题的敏感度。
     • 负责任的原型设计: 通过“test-driving”和用户输入约束等方法，鉴别和测试模型潜在风险。
     • 负责任的评估: 在用户测试过程中尽可能多样化用户群体，同时保护用户免受潜在有害内容的影响。

• 与现有解决方案相比的优势:

  1. 针对RAI的理论性和抽象性问题，引入了可操作性强的用户体验设计方法。
  2. 强调RAI从理论到实践的演进过程，为学界和产业指明了潜在的人机交互研究机会。

• 实验或评估结果:

  1. 通过UX与RAI从业者的参与式分析，揭示了AI模型设计中的隐性责任工作。
  2. 发现RAI框架的有效实践往往受限于时间、人力和组织资源。

• 局限性与未来方向:

  1. 研究仅限于一家公司，可能受限于企业自身的文化与流程，需要在更广泛的背景中验证其代表性。
  2. 访谈参与者主要集中于计算机视觉和语言模型领域，未来可拓展至更多AI模型类型。
  3. 探讨如何从组织层面系统性支持RAI工作，并优化UX从业者教育和RAI工具设计。