监管人工智能：美国州政策与人机交互的（不）对齐

文献标题

Regulating AI: Where U.S. State Policy and HCI (Mis)align

出版信息

• 主题领域：分析美国州级人工智能政策制定及其与人机交互（HCI）研究的契合度。
• 关键词：人工智能政策、州级治理、人机交互、社会技术系统、人工智能风险、人工智能益处、负责任的人工智能、参与式设计、人工智能素养、人工智能监管。

背景与问题

• 问题/挑战：美国州级人工智能委员会强调人工智能的益处多于风险，与人机交互研究中强调的社会技术关切缺乏契合。对风险的讨论流于表面且缺乏具体性，同时未能充分纳入多元化视角。
• 重要性：随着人工智能的加速应用，州级政策将塑造其对社会的影响，因此亟需解决风险评估、包容性和社会技术框架方面的差距。
• 动机与相关研究：尽管人机交互研究强调社会技术风险并倡导参与式设计，美国州级人工智能委员会却主要关注经济增长和运营效率。当前缺乏系统性研究来审视美国州级人工智能政策的制定过程。

解决方案

• 提出的方法：对18份美国州级人工智能委员会报告进行混合方法分析，以比较政策制定者的优先事项与人机交互研究中关于人工智能风险和益处的观点。
• 创新点：
  1. 构建人工智能委员会成立动机的分类体系。
  2. 比较州级报告中各行业的人工智能相关风险和益处。
  3. 使用人工智能风险库分析州级报告与人机交互文献的契合度。
  4. 提出通过参与式设计和社会技术视角弥合政策与人机交互研究之间差距的建议。
• 过程与关键技术：
  • 对九个行业的人工智能益处和风险进行定量编码。
  • 将委员会报告中的风险与人工智能风险库分类法进行比较。
  • 对报告中的缓解策略和价值观进行主题分析。
  • 采用统计分析（Wilcoxon符号秩检验、混合效应逻辑回归）评估益处与风险的侧重程度。

结果

• 具体发现：
  • 在所有行业中，人工智能益处的强调程度均高于风险（例如，政府服务：83%的益处 vs. 58%的风险）。
  • 人机交互文献中讨论的关键风险（如环境危害和劳动力贬值）在委员会报告中被低估。
  • 委员会通常缺乏对人工智能的定义性清晰，并提出了模糊的缓解策略。
• 相较基线的优势：
  • 发现州级人工智能政策优先事项与人机交互研究中的社会技术关切之间存在显著不一致。
  • 突出了包容性治理和人工智能风险操作性定义方面的缺口。
• 实验/评估：
  • 使用混合方法分析18份州级人工智能委员会报告。
  • 与人工智能风险库进行比较，该库综合了来自人机交互及相关领域的700多种风险。
  • 统计测试证实了系统性地优先考虑益处而非风险。
• 局限性与未来工作：
  • 仅关注美国州级委员会，未涉及联邦和国际背景。
  • 依赖委员会报告，而非直接采访政策制定者。
  • 未来研究应探索更广泛的利益相关方参与以及全球人工智能政策倡议。

总结

本研究分析了18份美国州级人工智能委员会报告，以了解政策制定者如何优先考虑人工智能相关益处和风险，以及这些优先事项与人机交互研究的契合度。研究发现，州级委员会强调益处多于风险，缺乏社会技术框架，并提出了模糊的缓解策略。人机交互文献中强调的关键风险（如环境危害和劳动力贬值）在报告中被低估。本文建议利用人机交互方法，如参与式设计和人工智能素养倡议，以弥合政策与社会技术研究之间的差距，从而确保更具包容性和有效性的人工智能治理。