可争议的摄像汽车：对公开且对争议开放和响应的公共AI的推测性设计探索

文献标题

Contestable Camera Cars: A Speculative Design Exploration of Public AI That Is Open and Responsive to Dispute

文献信息

• 主题领域: 公共领域人工智能 (AI)，人机交互设计与伦理
• 关键词: 人工智能，自动化决策，摄像车，可争议性，地方政府，公共AI，机器学习，城市传感，设计探索，未来研究

研究背景与问题

• 发现的问题或挑战:

  1. 地方政府逐渐采用人工智能技术进行公共服务中的自动化决策，但担心其潜在的社会风险，包括损害民主法治和侵犯个人尊严与自主权。
  2. 现有AI争议性研究理论性较强，缺乏具体设计情境中的实践指导。
  3. 缺乏对如何将AI嵌入城市民主治理体系的清晰阐述。

• 研究的重要性:

  1. 公共AI的不可争议性可能会带来不透明的决策，并削弱公众对行政机构的信任。
  2. 将争议性作为一种提高系统透明度和持续改进的手段，对于维护个人权利和增强市民参与度至关重要。

• 研究动机与相关工作: 本研究以摄像车（主要用于停车执法等城市监测任务）为案例，探索如何通过争议性机制设计改进公共AI的可接受性与公共服务质量；结合理论与参与式设计，生成未来愿景并评估市政人员对这些设计及潜在实现挑战的反馈。

解决方案

• 提出的方法或解决方案:

  1. 愿景视频: 创造一个未来的“可争议摄像车”概念，通过影像方式展示争议性AI系统如何运作，包括风险点、信息透明度和市民反馈机制。
  2. 方法论框架: 基于“争议性AI设计框架”，涵盖用户参与、数据补充回路等多方面的机制。
  3. 访谈分析: 与17位市政官员开展半结构化访谈，探讨其对“争议性摄像车”设计和实施挑战的看法。

• 创新之处:

  1. 将争议性设计与特定公共AI场景（城市停车监控摄像车）结合，具体化理论的应用。
  2. 使用投机性设计（Speculative Design）的方式来讨论未来AI系统的可能性和局限性，以激发共鸣和政策讨论。
  3. 提出了“公共AI中的五个争议性回路”，明确关键干预点。

• 实施步骤:

  1. 撰写设计简报，明确概念视频的评估标准。
  2. 制作概念视频，使用视觉与叙事形式呈现愿景。
  3. 与政策制定者和AI用户（市政官员）访谈，分析其反馈并形成研究主题。
  4. 使用反思性主题分析法对访谈数据进行编码和概念提炼。

研究成果

• 具体成果:

  1. 视频传播： 制作了一个以垃圾检测为例的2分钟概念视频展示公共AI的争议性设计，着重体现市民和政府间的反馈回路。
  2. 挑战概述： 提炼出公共AI实施争议性设计的三大主题（13个具体挑战）。例如：
     • 市民技术能力不足或反馈渠道限制。
     • 公共AI需要加强与民主流程及法规嵌合。
     • 市政部门需要提升执行责任的能力，如多学科团队合作、资源分配优化等。

• 与现有方案的优势:

  1. 提供了具体情境化的争议性设计案例，超越理论研究的局限性。
  2. 构建了一个“公共AI中的五个争议性回路”模型，明确公共AI的关键干预点。
  3. 鼓励将市民参与扩展到系统开发的早期阶段，而不仅限于系统的局部反馈。

• 实验或评估结果:

  1. 受访市政官员普遍认同该争议性设计的愿景，但指出目前组织结构、资源和公众能力的欠缺是实施的主要障碍。
  2. 视频被认为能够有效激发讨论，但需要更多与具体法规和部门实践的结合。

• 局限性与未来方向:

  1. 局限性:
     • 样本仅限于市政官员，未包含普通市民及其他利益相关方。
     • 当前研究更关注AI试点项目，而不是规模化应用。
  2. 未来方向:
     • 扩展研究对象范围至市民和社会组织，探索多方交流下的争议性AI设计。
     • 制定更细粒度的指导策略，赋能一线设计师和政策执行者。
     • 进一步关注第二层反馈回路（系统性缺陷的检测与改进）。