支持知情自我披露：向用户展示人工智能隐私风险估算的设计建议

文献标题

Supporting Informed Self-Disclosure: Design Recommendations for Presenting AI-Estimates of Privacy Risks to Users

出版信息

• 主题领域: 面向用户的隐私风险沟通设计，适用于在线平台。
• 关键词: 隐私风险，自我披露，群体风险估计，假名制，在线匿名性，设计建议，可解释的人工智能，用户赋权，隐私意识，重新识别。

背景与问题

• 问题/挑战: 在像Reddit这样的假名平台上，用户通常缺乏评估自我披露隐私风险的工具，这可能导致过度披露或不必要的自我审查。现有的隐私工具未能提供可操作、易理解且值得信赖的重新识别风险反馈。
• 重要性: 有效的隐私风险意识工具可以让用户在在线披露敏感信息时更加安全，从而在自我披露的益处与重新识别的风险之间取得平衡。
• 动机与相关工作: 先前研究表明，匿名化技术的脆弱性以及仅凭少量数据点即可轻松实现重新识别。尽管像SPAF这样的框架强调隐私工具的意识、动机和能力，但关于如何以用户友好的方式呈现可量化的隐私风险（如群体风险估计，PREs）的研究仍然有限。

解决方案

• 提出的方法: 本文探索了五种向用户呈现群体风险估计（PREs）的设计概念，利用推测性设计和漫画板（comic-boarding）评估其对用户意识、动机和应对隐私风险能力的影响。
• 创新性:
  1. 系统性地探索不同PRE呈现方式对用户决策的影响。
  2. 提供关于量化隐私反馈对用户心理和情感影响的行为洞察。
  3. 基于证据提出PRE呈现的设计建议，以平衡用户参与度和知情决策。
  4. 应用漫画板技术收集用户对抽象隐私技术的反馈。
• 过程与关键技术:
  1. 基于先前隐私与安全文献开发了五种PRE设计。
  2. 将这些设计嵌入四个描绘隐私威胁场景的叙事小插曲中。
  3. 通过在线问卷调查44名Reddit用户，利用漫画板和反思性写作收集定性和定量反馈。
  4. 分析用户反馈，提出有效的PRE呈现设计建议。

结果

• 具体发现:
  • 在74%的参与者反思中，PREs提高了风险意识，其中132个场景中有79个成功避免了重新识别。
  • 63%的参与者对PREs产生了负面情绪反应（如焦虑），而6%的参与者感到被赋权。
  • 在14个案例中出现了对PRE输出的误解，强调了清晰沟通的必要性。
• 相较基线的优势:
  • PREs在87个案例中激发了适应性自我审查（如编辑帖子以降低风险），而在25个案例中导致了不适应性反应（如完全避免发布）。
  • 参与者认为PREs使抽象风险变得更为具体，但强调需要提供可操作的指导。
• 实验/评估:
  • 参与者审阅了20个漫画板中的三个，每个漫画板结合了一个PRE设计和一个叙事小插曲。
  • 通过归纳编码分析反馈，得出18个主题和65个子主题。
  • 定量分析显示，参与者对单一PRE设计没有显著偏好，但设计#5（基于披露的风险）最受欢迎。
• 局限性与未来工作:
  • 样本偏向于年轻、居住在美国的技术熟练参与者，限制了研究的普适性。
  • 研究聚焦于Reddit和假名平台；未来工作可探索新闻或政治异议等其他情境。
  • PRE设计未考虑跨平台数据聚合或发布历史带来的风险。

总结

本研究探讨了如何向假名平台上的用户呈现群体风险估计（PREs），以支持知情的自我披露。通过漫画板和对44名Reddit用户的调查，作者发现PREs有效提高了风险意识，但如果缺乏清晰指导，可能导致焦虑和误解。本文提出了四项设计建议：（1）解释披露可能如何被利用，（2）澄清PREs的计算方式，（3）提供减少风险的可操作建议，（4）使用直观且无术语的语言。这些发现为设计用户友好的隐私工具提供了支持，这些工具在提高风险意识的同时也赋予用户权利。