公民是否认同欧盟AI法案？公众对AI系统风险与监管的看法

文献标题

Do Citizens Agree with the EU AI Act? Public Perspectives on Risk and Regulation of AI Systems

出版信息

• 主题领域: 人工智能风险的公众认知及其与欧盟《人工智能法案》监管规定的契合度。
• 关键词: 人工智能监管, 欧盟《人工智能法案》, 公众意见, 基于风险的方法, 人工智能系统, 基本权利, 公共政策, 横向监管, 人工智能素养, 国际治理。

背景与问题

• 问题/挑战: 欧盟《人工智能法案》将人工智能系统分为三种风险等级（不可接受、高风险、最低风险），并采取相应的监管措施。然而，目前尚不清楚这一框架是否与公众对人工智能风险和监管的认知相一致。
• 意义: 理解公众意见对于确保民主合法性、增强对人工智能系统的信任至关重要，同时也有助于为《人工智能法案》及其他监管框架的未来修订提供参考。
• 动机与相关研究: 先前研究表明公众支持人工智能监管，但未涉及与具体监管框架（如《人工智能法案》）的契合度。有人担忧该法案可能优先考虑企业利益而非公众价值，其基于风险的方法可能难以实施。

解决方案

• 提出的方法: 通过一项多国研究，收集公众对48种人工智能系统风险的认知及其对监管的意见，特别是在欧盟《人工智能法案》的背景下。
• 创新点:
  1. 直接比较公众认知与《人工智能法案》的基于风险框架。
  2. 分析公众对横向监管与分层基于风险监管的支持程度。
  3. 研究公众对不同风险等级下《人工智能法案》要求的重要性认知。
  4. 对德国、西班牙、法国和美国的公众意见进行跨国比较。
• 程序与关键技术:
  • 来自四个国家的参与者（N = 1,421）评估了《人工智能法案》分类为最低风险、高风险或不可接受风险的48种人工智能系统。
  • 参与者对基本权利和价值的风险认知进行评分，并建议监管措施（禁止、监管或不监管），同时评估《人工智能法案》要求的重要性。
  • 使用混合效应回归和方差分析（ANOVA）对数据进行分析。

结果

• 具体发现:
  • 所有48种人工智能系统均被认为对基本权利、民主、法治和环境构成中等风险（平均评分在7分制的2–4之间）。
  • 参与者认为所有《人工智能法案》要求的重要性均为中等至高度重要，无论人工智能系统的风险等级如何。
• 相较基线的优势:
  • 公众意见与《人工智能法案》的分层框架存在分歧，公众支持对所有人工智能系统进行更广泛的监管，而非基于风险等级选择性地实施强制性要求。
  • 高风险与不可接受风险人工智能系统之间的风险认知差异较小，挑战了法案的分类方式。
• 实验/评估:
  • 在德国、西班牙、法国和美国进行，样本均衡（每个国家约300名参与者）。
  • 参与者评估了对13项基本权利和价值的风险认知、监管偏好以及对10项《人工智能法案》要求的重要性。
• 局限性与未来工作:
  • 风险评估是单维度的，可能无法捕捉风险的多维特性。
  • 研究仅限于四个国家，并聚焦于欧盟《人工智能法案》；未来工作可以探索全球视角及替代监管方法。
  • 禁止类人工智能系统的场景较为抽象，可能影响参与者的回应。

总结

本研究揭示了欧盟《人工智能法案》的分层基于风险框架与公众对人工智能风险和监管的认知之间的脱节。参与者认为所有人工智能系统都具有中等风险，并支持对所有风险等级的系统进行全面监管，而非选择性地实施强制性要求。研究结果表明公众更倾向于横向监管，为所有人工智能系统建立最低标准。跨国比较显示意见一致性，表明统一的国际人工智能治理具有潜力。这些发现对《人工智能法案》的基于风险方法的充分性提出了质疑，并强调需要通过人工智能素养和透明度来使公众期望与监管框架相契合。