语音助手可以是微攻击者吗？跨种族对自动语音识别失败的心理反应

文献标题

Can Voice Assistants Be Microaggressors? Cross-Race Psychological Responses to Failures of Automatic Speech Recognition

文献信息

• 主题领域: 人机交互（HCI）、语言技术、心理学
• 关键词: 语言技术, 语音助手, 自动语音识别, 种族, 微侵害, 心理影响, 数量分析, 技术评估

研究背景与问题

• 发现的问题或挑战: 自动语音识别技术对不同种族用户表现出差异化错误率，特别是对黑人用户更容易出现语言识别错误。这种现象可能不仅影响技术的功能性，还可能被黑人用户视为微侵害（如社会互动中的隐性种族歧视）。
• 重要性: 语音助手已在全球广泛普及，对日常生活和关键任务（如紧急情况呼救）起到了重要作用。然而，这些技术对部分用户群体的表现较差，不仅导致使用体验受损，还可能对心理健康和社会归属感产生负面影响。
• 研究动机与相关工作:
  • 先前研究揭示了自动语音识别技术对黑人用户的高错误率，并指出原因在于训练数据中黑人语音样本的代表性不足。
  • 心理学研究表明，种族微侵害会对少数族群的心理状态造成显著影响，但如何衡量技术系统中的这些影响并未被充分研究。现有研究大多关注技术的“行为性”偏差，而非“伤害性”的后果。

解决方案

• 方法与解决方案:
  • 提出一种以“伤害”而非“行为”为核心的框架，研究自动语音识别系统对黑人用户的心理影响。
  • 设计并开展了一项控制实验，让黑人与白人参与者与预设为高错误率或低错误率的语音助手互动，量化语音识别错误对心理的潜在影响。
• 创新之处:
  • 将心理学中的种族微侵害概念应用到人机交互领域。
  • 提供对语音助手潜在心理伤害影响的实证量化。
• 实施步骤与关键技术:
  • 实验采用2x2组间设计（种族身份与错误率条件），参与者被随机分配到高错误率或低错误率组。
  • 使用“Wizard of Oz”方法，由研究人员通过文本转语音工具模拟语音助手的互动。
  • 采用经过验证的心理测量工具（如情感反应量表、自我意识量表、自尊量表等）评估参与者的主观体验。

研究成果

• 具体成果:
  • 提出的伤害性框架成功揭示了黑人参与者在高错误率条件下的心理影响，而白人参与者对错误率条件的反应则不显著。
  • 黑人参与者指标表现显著变化，包括更高的自我意识、更低的正面情绪和个人与群体自尊。
  • 黑人参与者对语音助手的技术评价明显不如低错误率条件，而白人参与者没有表现出类似的主观评估差异。
• 与现有解决方案比较的优势:
  • 将心理学理论与HCI实验方法结合，深入探索技术对种族用户的非功能性影响。
  • 提供了可靠的量化数据来支持设计技术解决方案以减少潜在的心理伤害。
• 实验或评估结果:
  • 高错误率条件显著降低了黑人参与者的心理状态和技术接受度，证实了种族微侵害理论在技术环境中的适用性。
  • 白人参与者未表现出类似的心理伤害差异，这体现了种族特权对技术体验的影响。
• 局限性与未来方向:
  • 限于实验环境，无法完全反映真实生活中的语音助手互动。此外，实验聚焦短期心理影响，未研究长期累积伤害。
  • 后续研究可扩大样本群体，涵盖更多种族、语言和社会身份背景，探讨交叉性影响。
  • 可结合自然环境中用户与语音助手的互动日志和长期纵向研究，评估技术偏差的健康和心理长期后果。
  • 未来设计应以弱化微侵害的策略为目标，如通过语音助手的反馈设计来挽回针对少数族群用户的负面体验。

设计建议

• 技术改进方向:
  • 开发能够明确识别并缓解微侵害的语音助手反馈机制，例如主动承认错误并给予社会认同。
  • 提供具有文化敏感性和对用户身份的积极肯定的设计解决方案，同时增加对多样化语音数据的训练。
• 人群参与与合作设计:
  • 采用参与性设计方法，邀请受影响群体加入技术开发过程，以确保设计策略真正反映其需求。

总结

本研究证明了种族微侵害理论在技术偏差研究中的重要性，并揭示了高错误率语音助手对黑人用户的心理伤害。此研究不仅推动了HCI领域对技术种族偏差及其后果的理解，还为设计更包容性的语音技术提供了实践指导。