“我感兴趣的是违规行为”：监管从业者对自动检测欺骗性设计模式的看法

文献标题

“What I’m interested in is something that violates the law”: Regulatory practitioner views on automated detection of deceptive design patterns

出版信息

• 主题领域: 在监管执法中自动检测欺骗性设计模式。
• 关键词: 欺骗性设计模式，黑暗模式，监管执法，自动检测，机器学习，大型语言模型，用户界面，法律违规，执法技术，透明性。

背景与问题

• 问题/挑战: 欺骗性设计模式（DPs）在网络上广泛存在，操纵用户并违反法律规范。监管执法难以跟上这些行为的规模和演变，而现有的自动化工具往往无法满足监管机构的证据和操作需求。
• 重要性: 解决欺骗性设计模式问题对于保护用户自主性、确保公平商业实践以及维护数字环境中的法律合规至关重要。
• 动机与相关工作: 先前的研究开发了用于检测DPs的工具，通常依赖于机器学习和大型语言模型。然而，这些工具主要是为学术目的设计的，缺乏与监管执法实际需求（如法律验证、可追溯性和透明性）的契合。

解决方案

• 提出的方法: 通过对九位监管从业者的访谈研究，了解他们的活动、需求以及对自动DP检测工具的看法。
• 创新点:
  1. 映射监管执法活动，识别自动工具可以提供帮助的空白领域。
  2. 强调学术工具与监管需求之间的脱节。
  3. 提出可操作的建议，以使工具开发与执法需求相一致。
  4. 探讨透明性、保密性和跨学科合作等更广泛的主题。
• 程序和关键技术:
  • 对来自欧盟监管机构、非政府组织和企业的从业者进行访谈。
  • 使用主题分析法提取关于执法活动、工具使用和限制的见解。
  • 分析现有学术工具以评估其在监管流程中的适用性。

结果

• 具体发现:
  • 监管执法涉及七个关键阶段：预防行动、信息收集、筛选、进一步信息获取、确定违规行为、采取行动以及检查更改实施情况。
  • 当前的学术工具主要支持早期阶段，如信息收集和筛选，但无法满足后期阶段对法律验证和强有力证据的需求。
  • 透明性、可追溯性和人工监督对于工具在监管环境中的采用至关重要。
• 相较基线的优势: 学术工具为监管系统提供了灵感，但由于证据标准和操作对齐方面的差距，缺乏直接适用性。
• 实验/评估:
  • 访谈揭示了从业者依赖多种工具进行数据收集和分析，强调手动验证以确保法律合规。
  • 对学术工具的分析显示，这些工具在时间戳记录、保密性以及将DPs映射到法律违规方面关注不足。
• 局限性与未来工作:
  • 九名参与者的小样本量限制了研究的普适性。
  • 研究聚焦于欧盟法规，发现可能无法完全适用于其他司法管辖区。
  • 未包括学术工具开发者或商业检测工具；未来工作应解决这些空白。

总结

本研究探讨了自动检测欺骗性设计模式的学术研究与监管执法实际需求之间的交集。通过对欧盟从业者的访谈，揭示了当前工具的关键缺陷，特别是在提供法律可采纳证据和与执法工作流对齐方面的不足。尽管学术工具为监管创新提供了启发，但它们需要显著调整以满足透明性、可追溯性和保密性标准。建议包括将DPs映射到法律违规行为、让监管机构参与工具开发以及促进跨学科合作。未来工作应探索可扩展的执法解决方案，并弥合学术研究与监管实践之间的差距。