理解配置AI在用户体验工作实践中的非使用情况的社会技术因素

研究背景与问题

• 作者发现的问题或挑战：

  • 人工智能（AI）工具被认为可以革新用户体验（UX）工作流程，但实际的采用和使用十分复杂，很多情况下AI可能是无必要的甚至不被欢迎。
  • 当前研究多集中于AI的使用，而忽视了“非使用”（non-use）这一现象，对非使用背后的原因缺乏深入探索。

• 为什么这个问题很重要：

  • 研究非使用能揭示用户需求尚未被满足的方面、潜在的担忧以及被忽视的工作形式。理解非使用可以挑战技术解决主义（technological solutionism）的逻辑，从而更全面地提示技术的适用边界。
  • 在某些情况下，传统的工作方式可能仍然有效或更合适，与仅依赖AI相比值得重视。

• 研究动机与相关工作：

  • 相关领域的研究多集中于AI技术对工作文化和实践的促进作用，但对AI非使用的现象、原因和多层次联系关注不足。
  • 作者借社会技术系统的框架，探讨在UX工作中不使用AI的维度及其相互作用，旨在从全新视角理解技术采纳的复杂性。

解决方案

• 作者提出的方法或解决方案：

  • 通过15位UX从业者的半结构化访谈，研究并归纳AI非使用的特定因素，包括个人、专业、组织和社会层面的约束。
  • 使用社会技术组态（sociotechnical assemblage）的分析框架，将非使用视为多层复杂关系的结果，而非单一选择。

• 解决方案的创新之处：

  • 引入“非使用”作为研究AI技术采纳的新视角，超越了将技术使用视为目标的传统研究方法。
  • 强调多层次约束（例如专业价值、组织文化、法律法规）对非使用的动态塑造作用，并将其纳入技术设计和政策参与的考量。

• 实施步骤及关键技术：

  1. 招募与访谈：针对不同职业背景的UX从业者进行访谈，包括设计咨询、金融、医疗和流媒体服务等行业。
  2. 数据分析：采用归纳分析法，从访谈数据中提炼关于AI非使用的主题，并通过社会技术组态框架定位不同层次因素的动态交互。
  3. 结果总结：生成对AI非使用在UX实践中的具体影响的见解，并提出政策和工具设计的建议。

研究成果

• 具体成果：

  • 提炼了三个主要类别的非使用因素：
    1. UX实践的特点：工作流的结构化、设计过程的驱动性、人类判断的必要性。
    2. 专业价值观和责任：对AI产生偏见、不准确结果的担忧、数据安全性和隐私保护的责任，以及设计者保持自主权的需求。
    3. 组织和社会层面：组织决策的影响、隐私法和客户合同对AI工具采用的限制。
  • 非使用不是单一的拒绝行为，而是动态、多层次的、有时为情境化的实践。

• 与现有解决方案的优势：

  • 提供了对非使用的全面分析，扩展了传统HCI研究中对AI工具使用的关注范围。
  • 不仅指出技术功能的局限性，还强调政策、社会因素如何塑造非使用的条件，这在技术规范性导向的研究中较为少见。

• 实验或评估结果：

  • 参加访谈的从业者普遍表示，AI工具在用户研究、人机交互中有局限性，例如在理解非理性用户行为、捕捉微妙的情境线索以及实现多维数据分析方面表现不足。
  • 数据隐私、政策法规以及组织内部决策对非使用的形成起到了显著影响。

• 局限性与未来方向：

  • 局限性：研究主要基于北美与韩国从业者的视角，可能忽视了其他文化或背景下的多样性；未深入讨论参与者的社会身份（如种族、阶级、性别）对非使用实践的影响。
  • 未来方向：
    • 研究多样化的文化背景如何塑造AI非使用，并扩展到自由职业者和其他非传统工作结构中。
    • 探讨支持故意拒绝AI工具的设计实践，并开发促进反思技术适用边界的工具包。
    • 深入研究政策如何与技术设计协同，以有效调控技术使用和非使用的界限。

通过以上分析，可以看出，该论文不仅丰富了对AI技术使用动态的理解，还提出了有关AI工具设计、评估和行业实践的重要指导性建议。这对政策制定者、技术设计师和UX专业人员具有深远意义。