使用人工智能测量、建模和帮助人们应对在线自我披露中的隐私风险

在 Reddit 这样的假名在线论坛中，用户通常能清楚地看到自我披露的好处（例如，我可以向理解的陌生人倾诉我的婆婆），但隐私风险则更为抽象（例如，我的伴侣是否能认出这是我？）。先前的研究试图开发自然语言处理（NLP）工具来帮助用户识别其文本中潜在的 risky 自我披露，但这些工具的设计和评估都没有针对他们希望保护的用户。缺少这种评估，这些工具将受到社会技术差距的限制：用户需要辅助工具来帮助他们做出明智的决策，而不是家长式地告诉他们完全避免自我披露。为了缩小这一差距，我们对 N=21 名 Reddit 用户进行了研究；我们让他们使用一款先进的 NLP 披露检测模型来分析他们自己的两篇帖子，并提出问题以了解该模型是否有帮助、在哪些方面存在不足，以及如何改进以帮助他们做出更明智的决定。尽管存在缺陷，用户对该模型的反应是积极的，并强调它作为一种工具可以帮助他们 catch 错误、告知他们未意识到的风险，并鼓励自我反思。然而，我们的工作也表明，要使人工智能支持隐私决策变得有用和可用，必须考虑发布情境、披露规范、用户的生活威胁模型，并提供有助于将检测到的风险情境化的解释。