什么是(敏感)数据中的敏感点?描述Google助手语音记录的敏感性和亲密性
文献标题
What is Sensitive About (Sensitive) Data? Characterizing Sensitivity and Intimacy with Google Assistant Users
文献信息
- 主题领域: 人机交互与隐私保护
- 关键词: 语音助手、个人数据、敏感数据、亲密数据、数据隐私、数据捐赠、Google助手、隐私规范、不良数据收集、不明感知
研究背景与问题
-
作者发现了哪些问题或挑战? 语音助手可以通过收集日常语音记录来存储潜在的敏感或亲密数据。然而,用户、隐私专家和监管机构对这些数据的敏感性及其定义存在分歧。虽然用户通常认为单次交互数据不敏感,但多次数据的汇集可能揭示隐私信息。此外,用户对数据收集和推断的理解有限,导致对其潜在隐私风险认识不足。
-
为什么这个问题很重要? 随着语音助手和其他数字设备日益成为日常生活的一部分,它们无处不在地收集行为和交互数据。理解敏感信息的定义和用户对这些信息的感知可帮助研究者、行业和政策制定者更好地保护隐私。特别是在数据捐赠和数据隐私之间找到平衡非常关键。
-
研究动机与相关工作 现有研究主要关注语音助手单次交互的数据,显示用户认为这些数据不敏感。然而,由于忽略了数据汇集和推断信息的能力,现有研究未能全面揭示用户对数据敏感性的理解。因此,本研究旨在综合呈现语音记录数据的单次交互、模式和推断信息,以深入探索敏感性和亲密性。
解决方案
-
作者提出了哪些方法或解决方案? 作者设计了一系列基于场景的访谈协议,通过用户的数据捐赠与互动,探讨语音助手记录的敏感性和亲密性。
- 数据捐赠:收集22名Google助手用户的8735条语音记录。
- 数据分析:对语音记录进行分类和注释以标识其敏感性和信息推断能力。
- 数据可视化:通过设计一个个人数据画布进行数据展示和结构化互动。
- 访谈:与17位数据捐赠者进行半结构化访谈以理解用户对数据敏感性和亲密性的感知。
-
该解决方案的创新之处是什么?
- 提出了敏感数据和亲密数据的重定义。
- 提供了敏感性光谱,用于衡量数据敏感程度的变化(低、中、高)。
- 开发了一种全面审视数据的方法,包括以单次和多次交互的模式为基础来评估数据敏感性。
- 设计了可交互式的“个人数据画布”,帮助用户探索数据并解读数据敏感性。
-
实施步骤是什么?使用了哪些关键技术?
- 数据收集:通过Google Takeout平台获取语音记录。
- 数据分类:基于交互类型(信息请求、事务请求等)和敏感性层次对数据进行分类、注释。
- 数据展示:设计“个人数据画布”用以可视化数据模式及其时间分布。
- 数据访谈:通过基于场景问卷调查用户数据共享能力及敏感性评估。
- 定性分析:使用Reflexive Thematic Analysis分析访谈结果。
研究成果
-
取得了哪些具体成果?
- 发现在深入探索数据时,用户对敏感性的感知通常会发生“转折点”,即对数据敏感性和亲密性的认知显著变化。
- 提出了敏感数据的三个主要特征:侵入性、特异性和可(不)获得性。
- 定义了亲密数据是敏感数据的子集,主要与记录的私密活动和空间相关。
- 敏感数据在数据分享时表现为有悖于情境完整性的特性。
- 定量分析得出各类亲密性和敏感性得分,显示未预期的交互或数据推断被认为是敏感性较高的情况。
-
与现有解决方案相比,它有哪些优势?
- 在现有研究主要关注单次交互数据的基础上,全面探讨了语音记录的聚合、推断以及亲密性特性。
- 引入了个人数据探索工具,提升用户对数据隐私的感知和能力。
- 强调了敏感与亲密数据定义的不确定性,为隐私界限的动态设置提供了新视角。
-
实验或评估结果是什么? 实验通过访谈发现,谷歌助手用户对数据的敏感性和隐私界限理解存在局限,但个人数据的直观展示和交互显著促进了用户的敏感性认知。
-
局限性与未来方向
-
局限性:
- 样本主要来自西方文化,未涵盖全球用户对隐私的多样化观点。
- 数据以语音助手的语音记录为主,尚未涉足其他类型的个人数据。
- 部分受访者对语音数据敏感性具有先验认知,可能降低研究的广泛性。
-
未来方向:
- 探索其他类型数据(如移动设备位置数据、传感器数据)的敏感性和亲密性。
- 研究不同文化背景下的数据隐私界限及敏感性认知差异。
- 设计更智能化、更直观的数据展示工具以提升用户隐私意识和边界设置能力。
-
研究问题 / 现实痛点
这篇论文在当前问题库中对应的问题线索。
研究问题
3- 用户如何理解语音助手记录的敏感数据和亲密数据的概念?分类: 隐私、知情同意与透明度同类问题arrow_forward
- 在单次数据交互和聚合数据之间,数据敏感性是如何变化的?分类: 隐私、知情同意与透明度同类问题arrow_forward
- 数据可视化工具如何影响用户对数据敏感性和隐私边界的认知?分类: 隐私、知情同意与透明度同类问题arrow_forward
现实痛点
1- 用户无法准确理解语音助手采集数据的敏感性,难以设定隐私边界。分类: 隐私、知情同意与透明度同类问题arrow_forward
- 71%
测量个人对他人隐私价值看法的心理测量量表(VOPP)
CHI '23· AI 伦理、公平与问责 +2
- 63%
数据为中心的解释:解释机器学习系统的训练数据以促进透明度
CHI '21· 可解释人工智能(XAI) +2
- 63%
理解并缓解物理世界中技术促成的隐私侵犯
CHI '23· 隐私设计与用户控制 +2
- 63%
一个充满隐私与安全(误解)的世界?12个国家具有代表性的调查结果
CHI '23· 隐私设计与用户控制 +2
- 63%
深度伪造,颅相学,监视,等等!人工智能隐私风险分类
CHI '24· AI 伦理、公平与问责 +2
- 63%
编码隐私:数据保护合规工作的社会技术动态
CHI '24· AI 伦理、公平与问责 +2
- 63%
探索人们需要了解的内容以具备人工智能素养:针对多样的人工智能角色和责任进行定制
CHI '25· 可解释人工智能(XAI) +2
- 63%
TermSight:让服务合同变得通俗易懂
CHI '26· 可解释人工智能(XAI) +2
- 63%
当公平审计的可行性依赖于数据共享意愿时:审视用户对多方计算协议的接受度以进行公平监控
CHI '26· AI 伦理、公平与问责 +2
- 63%
解构自主性:基于自由框架解释AI技术接受度
CHI '26· 可解释人工智能(XAI) +2
基于研究子主题与职业分类的 Jaccard 相似度(≥60%)