"我本质上只是信任它能工作："研究差分隐私开源库的心理模型

DOI

差分隐私是一个很有前景的隐私保护数据科学框架，但最近的研究发现在实践中应用这一理论框架存在挑战。这些紧张关系在差分隐私数据分析的开源软件库中尤为明显，这些新兴工具帮助数据管理人和分析师为其应用构建隐私保护的数据管道。尽管对这些库的投资很大，但很少有人研究这些库在促进对差分隐私的理解和信任方面的作用，也很少研究开源库的设计和参与如何揭示实践中创建可信数据基础设施的挑战。在本研究中，我们依靠定性方法和心理模型方法来分析设计开源差分隐私库的概念模型与用户持有的差分隐私心理模型之间的差异。通过涉及5名开源差分隐私库开发者的形成性访谈和17名数据分析师的用户研究的两阶段研究设计，我们发现差分隐私库常常难以弥合开发者和用户心理模型之间的鸿沟。我们特别强调了差分隐私库在维护严格的差分隐私实现和促进用户互动之间面临的紧张关系。我们最后为差分隐私库的进一步开发提供了实际建议。