从碎片化到整合：探索以人为单位的隐私管理 AI 智能体的设计空间

文献标题

From Fragmentation to Integration: Exploring the Design Space of AI Agents for Human-as-the-Unit Privacy Management

出版信息

• 主题领域: 基于人工智能的隐私管理在数字生态系统中的应用
• 关键词: AI代理, 隐私管理, 以人为单位, 跨边界隐私, 分享后工具, 用户自主性, 自动化, 数字足迹, 人际隐私, 动态偏好

背景与问题

• 问题/挑战: 当前的隐私工具存在碎片化、上下文特定的问题，无法满足用户跨边界和不断变化的隐私需求。用户在管理跨应用程序、平台和关系的数字足迹时面临巨大负担。
• 重要性: 解决这些问题对于赋能用户进行连贯的隐私管理、降低认知负担以及缓解与数据积累和人际隐私边界相关的风险至关重要。
• 动机与相关研究: 以往研究主要关注应用程序特定的隐私控制、新兴技术和平台级干预，但这些方法忽略了用户数字生活的整体性。人工智能的进步提供了潜在解决方案，但其在整体隐私管理中的应用尚未得到充分探索。

解决方案

• 提出的方法: 开发用于“以人为单位”隐私管理的AI代理，重点解决跨边界、分享后以及动态隐私需求。
• 创新点:
  1. 提出九种AI代理设计概念，解决跨应用、时间性和人际隐私挑战。
  2. 确定用户对分享后工具和自动化解决方案的偏好。
  3. 探讨设计因素在时间（分享前与分享后）和用户自主性（用户控制、半自动化、全自动化）之间的平衡。
  4. 通过访谈和快速约会调查对用户需求和偏好进行实证验证。
• 过程与关键技术:
  • 进行了12次半结构化访谈，识别隐私挑战和临时策略。
  • 基于用户需求开发了九种AI代理概念，并通过快速约会调查对116名参与者进行了评估。
  • 使用Plackett-Luce方法对概念进行排名，并分析定性反馈以评估用户接受度和怀疑态度。

结果

• 具体发现:
  • 排名最高的概念包括：数字身份管理器（半自动化）、动态隐私偏好代理（全自动化）、历史清理器（全自动化）。
  • 大多数概念的相关性和有效性中位评分为4–5分（满分5分）。
  • 用户更倾向于使用分享后工具来管理积累的数据和不断变化的偏好。
• 相比基线的优势: 与手动策略和现有工具相比，AI代理被认为更准确、高效，能够处理细微的隐私偏好。
• 实验/评估:
  • 访谈识别了跨应用、时间上下文和关系的九个关键隐私挑战。
  • 快速约会调查验证了用户需求，并根据相关性和有效性对设计概念进行排名。
  • 参与者重视自动化、集中管理和主动隐私监控。
• 局限性与未来工作:
  • 研究集中于移动场景，发现可能无法推广到其他设备或生态系统。
  • 样本偏向于西方、技术熟练的群体。
  • 未来研究应探索非AI方法、监管机制以及在代理能力与安全性之间平衡的架构。

总结

本研究提出了用于以人为单位隐私管理的AI代理，解决了碎片化、跨边界的隐私挑战。通过访谈和调查，研究人员识别了用户对分享后工具和自动化解决方案的偏好，这些工具能够减轻认知负担并优化隐私工作流程。研究结果突出了AI代理在管理积累数据和动态偏好方面的潜力，同时强调了防范过度信任、集中化漏洞以及用户自主性削弱等风险的必要性。未来工作应进一步完善动态偏好学习，确保安全架构，并整合监管框架以负责任地部署AI介导的隐私解决方案。