"这只是个疯狂西部"：利用公共采购作为AI治理机制

文献标题

“It’s Just a Wild, Wild West”: Harnessing Public Procurement as an AI Governance Mechanism

出版信息

• 主题领域: 将公共采购作为公共部门人工智能治理的机制。
• 关键词: 公共采购，人工智能治理，负责任的人工智能，公共部门人工智能，采购实践，欧盟人工智能法案，社会技术系统，人工智能政策，供应商锁定，公共利益。

背景与问题

• 问题/挑战: 公共部门人工智能的采购流程尚不完善，存在碎片化现象，缺乏针对人工智能的特定监督，导致潜在风险，包括伤害、不足的审查以及与公共利益的不一致。
• 重要性: 公共采购为治理公共部门的人工智能系统提供了重要机会，可以利用采购的力量确保其与公共价值观保持一致，并减轻歧视、偏见和缺乏问责等风险。
• 动机与相关研究: 先前的研究强调了采购作为治理工具的潜力，但缺乏关于如何将其操作化的实证见解。目前的实践通常优先考虑成本效益，而非公共利益，且私人供应商对采购过程施加了过多影响。

解决方案

• 提出的方法: 本研究基于对英国和欧盟专家的访谈，识别了六种有前景的采购实践和可操作机制，以使公共部门的人工智能与公共利益保持一致。
• 创新性:
  1. 绘制公共部门人工智能采购的当前模式，包括审查较少的非正式渠道。
  2. 识别与公共利益一致的人工智能采购的四大核心挑战。
  3. 提出六种可操作的采购实践和实施机制。
  4. 建立将HCI方法整合到人工智能采购中的研究议程。
• 程序和关键技术: 进行了16次半结构化访谈，采访对象为采购专家，并通过主题分析法分析了挑战、实践和机制。研究聚焦于欧盟和英国的背景，提供了关于采购流程、利益相关者角色和社会技术动态的见解。

结果

• 具体发现:
  • 针对人工智能的采购尚处于起步阶段，通常被纳入标准IT流程。
  • 框架合同占主导地位，但缺乏针对人工智能的特定保障措施。
  • 人工智能经常通过非正式渠道进入（例如系统更新、产品中隐藏的人工智能、试点项目），监督力度较低。
  • 识别出六种有前景的实践，包括提供明确指导、促进知识共享、注重结果以及实施质量控制措施。
• 相较基线的优势: 提出的实践填补了当前采购流程中的空白，例如缺乏针对人工智能的评估、供应商锁定以及与公共利益的不一致。
• 实验/评估: 从16位专家（包括买方、供应商、顾问）的访谈中获得见解，涵盖英国和欧盟地区，通过主题模式分析得出结论。
• 局限性与未来工作: 研究结果具有探索性，无法统计推广。未来研究应考察上下文细微差别，扩大地理范围，并开发支持采购实践的工具。

总结

本研究探讨了公共采购如何作为治理机制，使公共部门的人工智能系统与公共利益保持一致。通过与专家的访谈，研究识别了采购流程碎片化、供应商主导以及缺乏人工智能特定指导等挑战。作者提出了六种有前景的实践，包括明确指导、知识共享和质量控制措施，以应对这些问题。研究强调了HCI学术研究为有效人工智能采购做出贡献的机会，并提出了推进公共利益一致实践的研究议程。这些发现凸显了采购在塑造人工智能市场和供应商行为以符合社会需求方面的潜力。