心理模型、预期及客户端扫描的含义：一项对专家的访谈研究

文献标题

Mental Models, Expectations and Implications of Client-Side Scanning: An Interview Study with Experts

文献信息

• 主题领域: 信息安全与隐私保护，特别是客户端扫描技术在防止儿童性虐待材料(CSAM)传播中的应用研究。
• 关键词: 客户端扫描(CSS)，儿童性虐待材料(CSAM)，隐私保护，安全与隐私，犯罪预防。

研究背景与问题

• 发现的问题或挑战:

  1. 在现有的法律和技术框架下，加密通信的广泛使用使得传统的服务器端扫描难以实施，而客户端扫描(CSS)被视为一种潜在的解决方案。
  2. CSS 是一个涉及深刻社会背景的问题，不同利益相关者对于技术、适用场景及潜在社会影响存在重大分歧。
  3. 当前关于 CSS 的讨论缺乏全面的定义，对技术能力、应用预期和潜在影响的理解存在不一致。

• 重要性:

  • 此问题涉及隐私和权利与阻止CSAM传播之间的平衡，是一个全球性且高度敏感的话题。
  • 对 CSS 的清晰定义及其可能的社会相互作用的了解对未来社会和技术政策的制定是至关重要的。

• 研究动机与初步基础:

  • 探索 CSS 的定义及专家在这一问题上的心智模型（mental models），填补研究空白，为跨学科讨论提供基础。
  • 数据来源为与28位在儿童保护、法律、隐私保护、技术公司等多个领域的专家进行的半结构化访谈。

解决方案

• 方法与研究目标:

  • 作者通过质性访谈研究，分析了28位领域专家对 CSS 的概念理解、预期和潜在影响，并从中总结了心智模型。
  • 研究的主要目标包括：
    1. 建立并解析专家对 CSS 的多维理解（如何运作、何种内容被扫描等）。
    2. 探讨其对 CSS 技术的期望及实际挑战。
    3. 分析 CSS 在个人和社会层面的潜在影响。

• 研究创新:

  1. 将 CSS 数据化框架化，明确其涉及的主要技术维度（输入、输出、算法、用户交互、报告等）。
  2. 提出可以普遍适用的 CSS 胡子结构（mental model dimensions），帮助利益相关者推进对技术、隐私和伦理的讨论。
  3. 引入不同利益相关者观点，包括隐私维护利益与技术实施可能性，全面平衡讨论。

• 实施步骤和关键技术:

  • 设计了详细多维的访谈框架，通过开放性提问收集与结构化目标相关的专家数据。
  • 通过流程图、事件序列分析等技术将专家对 CSS 的抽象理解可视化，形成技术心智模型。
  • 利用了混合编码方法进行定性分析（包括开放式编码和选择性编码）。

研究成果

• 具体成果:

  • 提炼出 CSS 的心智模型框架，包括：
    1. 系统构建过程中的输入（例如扫描算法、触发条件、运行层次）。
    2. 主要输出（例如是否匹配、误报可能性）。
    3. 用户互动面（例如是否通知用户、是否要求用户同意）。
    4. 与第三方报告模块的互动（例如最低报告触发门槛）。
  • 确定了技术和社会层面的隐患，例如可能的误报、透明性缺失导致信任风险及扩展扫描目的被滥用的潜在危险。

• 与现有解决方案的比较优势:

  1. 在全球隐私争议中，CSS 是唯一在客户端侧实现预扫描功能并允许 E2EE（端到端加密）保持完好性的方法。
  2. 工作重心超越单一技术讨论，利用多个案例场景（CSAM、版权保护、广告）全面评估技术实施风险。

• 实验或验证结果:

  • 通过专家输入验证了 CSS 的跨领域复杂性对任何一种单一定义的难以成立性，并指出不同社会语境下需对 CSS 采取不同的实施规范。

• 局限性与未来方向:

  • 局限性:
    1. 参与者大部分为德国专家，样本存在一定的文化倾向性。
    2. 数据仅基于访谈，非验证性实验测试，无法量化技术有效性。
    3. 作者团队背景为信息技术领域，可能存在偏向于隐私保护的偏倚。
  • 未来发展:
    1. 探索不侵入隐私的更先进技术，如基于启发式加密的非侵入式扫描。
    2. 在技术政策层面扩大到更高多样性区域及非技术专家的观点采集。
    3. 针对儿童保护之外的其他社会性问题设计 “低入侵” 型 CSS。

总结

此研究通过多领域的专家视角，为 CSS 技术的可行性、社会风险及道德权衡提供了一套基础分析框架。尽管其潜在的隐私风险和社会争议性使其应用变得复杂，但其在打击 CSAM 等重大犯罪中具有的潜力仍需要持续探索。