安全技术中的欺骗性设计模式：Citizen应用案例研究

文献标题

欺骗性设计模式在安全技术中的应用：Citizen 应用案例研究

文献信息

• 主题领域: 人机交互 (HCI)、安全技术、设计伦理
• 关键词: 欺骗性设计模式、安全技术、犯罪、社区安全、恐惧、焦虑、社会不公、数据隐私、社区监控

研究背景与问题

• 作者发现了哪些问题或挑战？

  • 欺骗性设计模式（Deceptive Design Patterns，旧称暗模式）虽已广泛存在于各类技术中，但在安全技术领域尚未被完整记录。尽管现有文献揭示了安全技术可能对用户与社区带来的深刻影响，例如种族偏见与在线种族主义，但其背后的设计决策及盈利动机尚未得到深入研究。
  • 主要研究问题是：安全技术是否通过欺骗性设计模式提高用户对安全事件的焦虑，进而推动其使用盈利功能？

• 为什么这个问题很重要？

  • 安全技术设计决策可能影响用户的线上与线下行为，并对更广阔的社会文化背景及历史上具有边缘化特点的人群产生不利影响。例如，这类设计可能加剧针对某些种族或社会阶层的偏见，从而影响社区的团结和公平性。

• 研究动机与相关工作

  • 作者通过总结人机交互领域对欺骗性设计模式的研究，并结合安全技术对用户情绪和行为的潜在影响，旨在探索欺骗性设计模式如何与认知偏差和社会文化因素结合，产生大规模的负面影响。
  • 相关研究涵盖欺骗性设计模式在购物平台、社交媒体、数据隐私等领域的表现，以及安全技术如何影响社区互动、犯罪恐惧感和种族偏见。

解决方案

• 作者提出了哪些方法或解决方案？

  • 作者采用案例研究方法，以 Citizen 应用程序作为调查对象，结合用户采访与界面分析，探讨安全技术中的欺骗性设计模式对用户体验的影响。具体分析包括：
    • 对 15 名亚特兰大用户的半结构化采访，了解应用的实际使用体验。
    • 对 Citizen 应用界面的系统性分析以识别欺骗性设计模式。

• 该解决方案的创新之处是什么？

  • 研究将注意力从单一功能层面扩展到整个技术的社会技术基础架构，并提出“欺骗性基础设施”这一概念，用于描述欺骗性设计模式与认知和文化偏差间的相互作用及其对用户和社会的整体影响。
  • 提议扩展现有的伤害分类体系以更全面地描述欺骗性设计模式的影响，包括情绪负担和社会不公。

• 实施步骤是什么？使用了哪些关键技术？

  • 数据收集：15 名用户采访与界面分析，通过录制用户交互视频以捕获设计模式表现。
  • 数据分析：结合定性编码、多轮会议讨论、亲和图设计等方法，提取关键主题与模式。
  • 数据整合：基于功能与概念匹配，将用户体验与界面分析结果结合，形成统一结论。

研究成果

• 取得了哪些具体成果？

  • 确认 Citizen 应用中使用了六种欺骗性设计模式，包括 "强制行为"、"社交投资"、"发布隐私信息"等。这些设计通过改变用户选择架构来制造安全焦虑并激励对盈利功能的使用。
  • 用户报告了 Citizen 应用带来的负面情绪体验（如焦虑、恐惧），随着使用时间推进，这些情绪负担呈现递增趋势。

• 与现有解决方案相比，它有哪些优势？

  • 相较过往关于欺骗性设计模式的研究，该研究重点关注了模式的社会文化影响及其系统性互动，而不仅限于某些设计技巧及其对个体用户行为的直接影响。
  • 提出了针对设计实践的具体建议，如通过过滤信息、优先呈现多样化内容、提供社区协作支持等手段减少不必要的焦虑并加强社会合作。

• 实验或评估结果是什么？

  • 用户采访揭示了 Citizen 应用既提高用户对于犯罪事件的意识，又因为过量信息与非必要警报制造了不必要的恐慌与压力情绪。
  • 大部分用户报告该应用影响了他们的线下行为（如避开特定区域），甚至改变了其对某些社区或人群的看法。这些行为变化可能导致长期的社区隔离与种族或经济偏见。

• 局限性与未来方向

  • 局限性包括：采访样本偏向白人女性用户，用户追踪行为可能受到样本城市及时间局限，未能直接捕获某些功能（如 Citizen Protect）的使用影响。
  • 作者建议未来研究应采用纵向设计以观察设计模式随时间的演化，还需进一步探索情绪负担的具体构成及技术对不同城市和社群的影响。

贡献与建议

• 扩展 Mathur et al. 伤害分类体系，将“情绪负担”和“社会不公”纳入其中作为典型伤害类别。
• 提出四项设计建议：
  • (1) 赋予用户选择性参与安全信息的权利。
  • (2) 在时间与空间维度上对危险进行纵向和多样化的上下文呈现。
  • (3) 高效抵制文化刻板印象，设计中引入平衡叙事与媒体素养教育。
  • (4) 为恐惧提供有建设性输出渠道，例如支持社区合作与非营利性干预活动。

通过这些建议，设计者可以积极反思并缓和现有安全技术的负面影响，为创建取代欺骗性基础设施的公平技术生态提供新的契机。