倾听声音：根据专家和频繁用户的描述阐述对话用户界面的伦理注意事项

文献标题

Listening to the Voices: Describing Ethical Caveats of Conversational User Interfaces According to Experts and Frequent Users

文献信息

• 主题领域: 人机交互 (HCI) 中对话用户界面的伦理问题研究
• 关键词: CUI, 对话用户界面, 对话代理, 语音助手, 聊天机器人, 主题分析, 伦理设计, 欺骗性设计模式, 暗黑模式

研究背景与问题

• 发现的问题或挑战:
  1. 对话用户界面 (CUI) 的传播带来了显著益处，但也伴随欺骗性使用和侵犯用户信任的风险。
  2. 虽然图形用户界面 (GUI) 中的“暗黑模式”进行了深入研究，但如何在 CUI 中识别和应对类似问题尚不清楚。
  3. 当前对 CUI 的伦理设计潜力及其可能的问题的认识有限，特别是关于信任、隐私保护和用户期望管理方面。
• 问题的重要性: 不明确的设计可能误导用户，给用户体验造成负面影响，并可能使用户处于脆弱状态。特别是随着 CUI 的普及，对无意或故意的伦理问题的忽视可能会对技术接受度造成巨大危害。
• 研究动机与相关工作:
  1. 识别对话用户界面中可能的伦理风险，以防止不良设计影响用户决策，尤其是类似图形界面“暗黑模式”的问题。
  2. 在推动技术发展的同时，通过构建有效的设计框架来增强 CUI 的透明度和用户体验。

解决方案

• 提出的方法或解决方案:

  1. 通过对 27 名来自学术研究者、行业从业人员和频繁用户的半结构化访谈，了解 CUI 的伦理问题。
  2. 构建了五个设计主题，揭示其伦理漏洞，并提出一个名为 “CUI期望循环 (CUI Expectation Cycle, CEC)” 的框架。
  3. 结合 Mathur 等人的暗黑模式特性以及现有理论（如 Norman 的行动循环和 Oliver 的期望确认理论）。

• 创新之处:

  1. 明确CUI设计中的关键伦理挑战和用户痛点。
  2. 提出CUI期望循环框架，通过对设置期望、信任构建和包含性等议题的关注，弥补现有最佳实践的不足。

• 实施步骤与技术:

  1. 对不同群体（研究者、从业者、用户）进行深度访谈。
  2. 应用反思性主题分析对数据进行解码和归纳，建立五大主题。
  3. 借助现有的学术理论和设计原则，开发新的框架以指导后续研究和实践。

研究成果

• 具体成果:

  1. 五大主题：
     • 建立信任并保护隐私: 信息透明及数据控制。
     • 引导交互: 信息呈现与功能发现。
     • 人性化和谐: 平衡拟人化设计与技术能力。
     • 包容性与多样性: 考虑边缘化用户的需求。
     • 设定期望: 提升透明度以减少用户挫败感。
  2. 提出 CUI 期望循环 (CEC) 框架, 包括两个桥接（执行桥和评估桥）和两个限制因素（欺骗边界和不信任边界），以缩小用户期望与CUI系统间的鸿沟。

• 与现有解决方案的比较:

  1. 相较于现有基于 GUI 的设计指南和框架，CEC 更适用于 CUI 的伦理设计。
  2. 考虑了用户多样性、人性化特征以及隐私透明度等独特挑战。

• 实验与评估结果:

  1. 27 名受访者中存在普遍的隐私和信任问题反馈。
  2. CEC 框架在实验中被证明能够有效应对用户挫败感和误导性设计等问题。

• 局限性与未来方向:

  1. 样本规模和参与者背景多样性有限（如大多数用户采访集中在语音助手而非聊天机器人）。
  2. 对人性化设计的细化需要进一步探讨，特别是需要量化用户如何受其影响。
  3. 建议未来研究扩展至其他用户界面形式，如文本聊天机器人，探索更多行业应用场景。