当公平审计的可行性依赖于数据共享意愿时：审视用户对多方计算协议的接受度以进行公平监控

文献标题

When Feasibility of Fairness Audits Relies on Willingness to Share Data: Examining User Acceptance of Multi-Party Computation Protocols for Fairness Monitoring

出版信息

• 主题领域: 算法系统中隐私保护的公平性监测协议的用户接受度。
• 关键词: 公平性监测，多方计算，隐私保护协议，用户接受度，GDPR，欧盟人工智能法案，数据捐赠，算法公平性，隐私计算，人机交互。

背景与问题

• 问题/挑战: 高风险人工智能系统的公平性监测需要敏感用户数据，但诸如GDPR这样的隐私法规对数据处理施加了严格限制。多方计算（MPC）提供了一种隐私保护的解决方案，但其可行性取决于用户是否愿意分享数据，这一问题尚未得到充分探索。
• 重要性: 在招聘等高风险领域确保算法系统的公平性对于遵守法规和建立社会信任至关重要。理解用户对MPC协议的接受度可以在保护隐私的同时改善公平性监测。
• 动机与相关研究: 先前研究主要关注算法公平性技术和隐私保护方法，如差分隐私和合成数据。然而，关于用户对MPC协议接受度的研究，特别是在GDPR和欧盟人工智能法案背景下的用户视角研究仍然缺乏。本研究通过探讨用户对MPC设计的偏好和态度来填补这一空白。

解决方案

• 提出的方法: 通过对833名欧洲求职者进行在线调查，从人本视角研究用户对MPC公平性监测协议的接受度。
• 创新点:
  1. 分析用户对MPC协议设计属性的优先级和偏好。
  2. 探讨公平性和隐私导向及其情境如何影响协议接受度。
  3. 为隐私保护的公平性监测协议设计和沟通提供实际指导。
• 程序与关键技术:
  • 基于隐私计算理论设计调查，将协议属性分为与收益相关、与风险相关以及混合属性。
  • 使用联合分析和直接属性排名方法测量揭示和声明的属性重要性。
  • 回归分析探索用户导向与协议接受度之间的相关性。
  • 在GDPR管辖范围内招募多样化的参与者样本。

结果

• 具体发现:
  • 在联合任务中，用户优先考虑与收益相关的属性（货币激励: 23.6%，公平性目标: 19.2%），而非与风险相关的属性（数据存储: 20.3%，隐私保护机制: 15.1%）。
  • 在直接排名中，用户强调隐私相关属性（隐私保护机制: 19.1%，收集信息类型: 17.6%）。
  • 分布式数据存储相比基础匿名化和加密提高了约10%的接受度。
  • 更广泛的数据收集和使用反而与更高的接受度相关。
• 相较基线的优势:
  • 用户更信任研究中心（76.9%）和非政府组织（72.8%），而非商业公司（56.7%）进行数据存储。
  • MPC协议中的分布式存储比简单的隐私机制获得更高的用户接受度。
• 实验/评估:
  • 对833名参与者进行调查，包括联合任务、属性排名和回归分析。
  • 确保参与者样本的代表性（例如，60.4%白人，15.1%亚洲人，15.0%黑人）。
• 局限性与未来工作:
  • 未解决文化差异对公平性和隐私感知的影响。
  • 研究集中于招聘领域，结果可能无法推广到其他领域。
  • 需要实际部署反馈和定性研究来补充定量发现。

总结

本研究探讨了在GDPR和欧盟人工智能法案背景下用户对多方计算（MPC）协议用于公平性监测的接受度，重点关注隐私与收益的权衡。通过对833名欧洲求职者的调查发现，用户在直接评估中优先考虑隐私相关属性，但在决策场景中更看重收益相关属性。分布式数据存储和可信第三方（如研究中心）提高了协议接受度。人口统计差异显示，历史上处于弱势的群体更注重公平性目标而非隐私关切。研究结果为隐私保护协议的设计和沟通提供了指导，以确保知情同意和公平性监测的包容性。