"这需要更多的创造力": 为AI对抗收集信息的障碍和工作绕过

文献标题

"It just requires so much more creativity": Barriers and Workarounds to Gathering Information for AI Contestation

出版信息

• 主题领域: 人工智能争议中的信息收集与倡导
• 关键词: 人工智能争议、倡导、透明性、信息工作、社会正义、法律障碍、政策、政治经济学、协作、风险

背景与问题

• 问题/挑战: 倡导者在对有害的人工智能系统提出争议时，由于系统的不透明性、对抗性策略以及资源限制，面临显著的障碍。现有的透明性政策不足以解决这些问题。
• 重要性: 有效地对人工智能系统提出争议对于缓解医疗、住房和就业等高风险领域的危害至关重要，这些领域的人工智能通常会加剧社会不公。
• 动机与相关研究: 现有研究主要关注专业审计人员和技术解决方案，而忽视了更广泛的倡导社区。对于律师、记者和政策倡导者等多样化的倡导者如何在资源有限的环境中开展信息工作以提出争议的理解仍然有限。

解决方案

• 提出的方法: 对美国倡导者在人工智能系统争议中的信息工作进行实证研究，重点分析他们的策略、障碍和创造性解决方法。
• 创新性:
  1. 描述人工智能争议中信息工作的迭代和非线性生命周期。
  2. 分析创造性解决方法，包括跨学科协作、直接与人工智能系统互动以及创新使用公开记录法。
  3. 探讨人工智能争议的政治经济学，强调倡导者面临的结构性劣势和风险。
  4. 批判透明性政策并提出加强倡导社区与协作的建议。
• 程序和关键技术:
  • 对18位美国倡导者（包括律师、记者、审计人员、政策倡导者和研究人员）进行访谈，涵盖医疗、住房和就业等领域。
  • 使用归纳解释性分析识别与信息工作、障碍和策略相关的主题。
  • 探讨研究发现对透明性政策和倡导实践的影响。

结果

• 具体发现:
  • 倡导者在信息工作生命周期的各个阶段（包括发现危害、制定策略和理解意义）都面临系统性的不透明性。
  • 创造性解决方法包括利用关系网络、尝试人工智能系统以及使用公共记录法，但这些方法资源密集且风险较高。
  • 结构性障碍包括人工智能部署者的对抗性策略、资源限制以及偏向开发者的治理结构。
  • 风险包括法律后果、政治反弹以及对倡导者和受影响个人的个人伤害。
• 相较基线的优势:
  • 研究突出了透明性政策的不足以及关系型和联盟型方法的必要性，这些通常被技术和政策中心的研究所忽视。
• 实验/评估:
  • 对来自不同角色和领域的18位参与者的访谈提供了关于人工智能争议挑战和策略的定性洞察。
  • 数据分析揭示了信息工作的模式和系统性障碍，为现有政策方法的批判提供了依据。
• 局限性与未来工作:
  • 研究集中于美国背景，限制了对其他地区的普适性。
  • 未包含直接受人工智能危害影响的个人的视角。
  • 未来研究应探索跨文化背景和更广泛的参与者群体。

总结

本研究探讨了美国倡导者在对有害人工智能系统提出争议时的信息工作，揭示了系统性障碍，如不透明性、对抗性策略和资源限制。倡导者采用了创造性解决方法，包括跨学科协作和创新使用公共记录法，但同时面临显著风险和结构性劣势。研究结果批判了透明性政策的局限性，并强调关系型和联盟型方法对于支持倡导的重要性。研究呼吁进行基础设施和程序改革，以减少争议的负担并增强多样化倡导者之间的团结。