平衡自动化与裁量权：决策风险与人机协作如何影响公共管理中公民的感知

文献标题

Balancing Automation and Discretion: How Decision Stakes and Human-AI Collaboration Affect Citizen Perceptions in Public Administration

出版信息

• 主题领域: 公共行政中人工智能的公民认知，重点关注公平性与采纳意愿。
• 关键词: 公共行政中的人工智能、人机协作、决策重要性、公平性认知、采纳意图、自由裁量决策、混合决策、程序公平、公民信任、智能自助服务终端。

背景与问题

• 问题/挑战: 现有研究分别探讨了决策重要性和人机协作决策配置，但对两者结合如何影响公民对公平性和人工智能在公共服务中采纳意愿的认知仍存在研究空白。
• 重要性: 公共行政决策通常具有重大后果，要求具备公平性、同理心和自由裁量权。公民无法选择退出公共服务，因此人工智能系统的信任和合法性至关重要。
• 动机与相关研究: 先前研究显示公民对公共服务中人工智能的态度不一，尤其在高重要性决策中更倾向于人类参与。然而，决策重要性与决策配置之间的具体交互仍未充分研究。本论文通过探讨这些因素如何塑造公平性认知和采纳意愿来填补这一空白。

解决方案

• 提出的方法: 采用混合方法的“奥兹巫师”研究，使用智能自助服务终端（ISSK）模拟人工智能驱动的公共服务决策，涵盖不同重要性和决策配置。
• 创新点:
  1. 系统性研究决策重要性与决策配置之间的交互作用。
  2. 混合方法结合定量测量与定性主题分析。
  3. 提供关于公民对公平性、同理心及人类参与的细致推理的洞察。
• 研究流程与关键技术:
  • 与公务员合作开发两个场景，分别代表低重要性（身份证更新）和高重要性（社会住房）决策。
  • 测试三种决策配置：完全自主人工智能、人工智能与人类监督结合、人工智能辅助人类决策。
  • 参与者（n=43）与ISSK互动，评价公平性与采纳意愿，并参与半结构化访谈。
  • 定量数据通过重复测量方差分析（ANOVA）处理，定性数据通过主题分析处理。

结果

• 具体发现:
  • 定量分析未发现决策重要性或决策配置对公平性或采纳意愿的显著影响。
  • 定性分析表明公民尤其在高重要性决策中重视人类参与，并强调需要有意义的互动对话。
  • 公民认为当监督缺乏可见性或实质性参与时，人类监督仅具有象征意义。
• 相较基线的优势:
  • 研究揭示了单纯定量指标在捕捉公民细致认知方面的局限性，倡导混合方法。
  • 提供设计符合民主价值观和公平性期望的人工智能系统的可操作性建议。
• 实验/评估:
  • 场景：身份证更新（低重要性）与社会住房申请（高重要性）。
  • 配置：完全自主人工智能、监督型混合模式、建议型混合模式。
  • 指标：程序公平、信息公平、分配公平；采纳意图。
  • 样本：43名参与者，具有多样化的人口统计特征和较高的人工智能认知水平。
• 局限性与未来工作:
  • 由于场景为虚构且缺乏实际后果，生态效度有限。
  • 公务员参与时间较短可能影响了对监督的认知。
  • 未来研究应探索互动型混合模式、更丰富的对话机制，以及人际公平的作用。

总结

本研究探讨了决策重要性与人机协作决策配置如何影响公民对公共行政中公平性和采纳意愿的认知。尽管定量结果未显示显著影响，定性发现表明公民尤其在高重要性决策中重视有意义的人类参与，并强调互动对话和同理心的重要性。研究凸显了设计人工智能系统时在效率与公平性、同理心和信任之间寻求平衡的重要性。政策制定者和设计者应采用渐进式、情境敏感的人工智能部署策略，确保民主价值观的维护以及可见且有意义的人类监督。