PrivWeb：面向网页代理的隐性且内容感知的隐私保护

文献标题

PrivWeb: Unobtrusive and Content-aware Privacy Protection For Web Agents

出版信息

• 主题领域: 基于GUI的网页代理隐私保护机制。
• 关键词: 隐私、网页代理、GUI代理、LLMs、用户控制、数据编辑、情境感知、分层委托、认知负荷、隐私通知。

背景与问题

• 问题/挑战: 自动化GUI交互的网页代理通常需要广泛访问界面内容，这导致了显著的隐私风险。目前的隐私保护机制缺乏透明性、细粒度和用户控制，使用户对代理的数据处理方式感到不确定和不信任。
• 重要性: 解决这些隐私风险对于建立用户对网页代理的信任至关重要，从而使其能够安全有效地完成涉及敏感数据的任务，例如金融交易、个人通信和在线购物。
• 动机与相关工作: 之前的研究探讨了GUI代理中的隐私风险，包括推理缺陷、对抗性攻击以及界面引发的数据泄漏。现有的通知和控制机制（如Cookie同意和运行时权限提示）不足以应对网页代理的动态和自主特性。本文基于这些研究成果，旨在填补用户中心隐私保护领域的空白。

解决方案

• 提出的方法: PrivWeb是一个针对网页代理的本地化插件，提供不干扰用户体验且具备内容感知能力的隐私保护功能，通过编辑敏感数据并根据数据敏感性启用分层用户控制。
• 创新点:
  1. 分层委托模型，通过在处理高敏感数据时暂停执行并提供低敏感数据的环境通知，平衡自动化与用户控制。
  2. 基于本地化LLM的系统，能够在用户设备上实时检测并编辑敏感信息。
  3. 提供增强情境感知的界面设计，包括原位高亮和隐私面板以实现细粒度控制。
  4. 实验数据证明该系统在提高用户信任和隐私保护的同时，不会增加认知负荷。
• 流程与关键技术:
  1. 使用本地化LLM（Qwen3-8b）解析DOM元素以检测敏感数据。
  2. 将检测到的数据分类为高、中、低敏感性类别。
  3. 高敏感数据触发执行暂停并需要用户确认，而低敏感数据默认编辑，用户可选择干预。
  4. 隐私面板和原位高亮提供实时反馈和控制选项。
  5. 技术评估和用户研究验证了系统的准确性、延迟和可用性。

结果

• 具体发现:
  • PrivWeb在检测敏感数据方面平均召回率达到93.3%，对于金融、健康和地理位置等关键类别的召回率为100%。
  • 用户干预仅占8.5%的情况，代理因编辑引发的错误恢复率为96.7%。
  • 漏报率仅为3.7%，隐私泄漏率极低（编辑数据的推断率为0.4%）。
• 相较基线的优势:
  • PrivWeb显著提高了用户感知的隐私保护、信任度，并减少了用户的挫败感，相较于仅透明性（n/c）和无控制（n/b）基线。
  • 尽管进行了严格的隐私过滤，但任务完成率（71.4%）与基线保持相当。
• 实验/评估:
  • 使用包含107个会话和2189个敏感数据实例的自定义数据集进行技术评估，显示出高检测准确率和可控的延迟（每个DOM页面平均6.42秒，基于Qwen3-8b）。
  • 用户研究（N=14）评估了认知负荷、信任感、感知控制和隐私保护，在三种条件（PrivWeb、n/c、n/b）下，用户显著偏好PrivWeb。
• 局限性与未来工作:
  • 仅限于基于文本的DOM元素，不适用于图像或非文本GUI元素。
  • 用户研究为短期研究，长期效果如习惯形成和信任演变尚未探索。
  • 数据集和评估集中于特定模型和任务，需进一步推广和公开数据集以支持更广泛的应用。

总结

PrivWeb是一个针对网页代理的隐私保护插件，利用本地化LLM检测并编辑敏感数据，同时提供分层用户控制。通过原位通知和高敏感数据的执行暂停，增强了用户信任和隐私保护。技术评估和用户研究证实了其在自动化与用户监督之间的平衡效果，同时不会增加认知负荷。未来工作应探索用户行为的长期变化，将保护范围扩展至非文本元素，并在多样化背景下推广研究结果。