为什么是罚款，AI？解释水平对公民对公共行政部门基于AI的自由裁量公平感知的影响

文献标题

Why the Fine, AI? The Effect of Explanation Level on Citizens’ Fairness Perception of AI-based Discretion in Public Administrations

文献信息

• 主题领域: 人工智能在公共行政中的应用与公平性认知
• 关键词: 算法决策、公务裁量权、信息公平性、分配公平性、可解释人工智能

研究背景与问题

• 研究背景： 公共行政领域逐渐引入自动化决策系统，包括基于人工智能的完全自动化决策，这些系统具有提高效率、降低成本及优化服务质量的潜力。然而，在需要主观裁量的场景中，自动化决策面临显著挑战，即如何保持公平性，同时不损害公众信任。

• 问题与挑战：

  • 公民对基于人工智能的裁量权是否公平持怀疑态度。
  • 对于人工智能决策的解释内容，如何影响公民的公平感及对系统的接受度，尚未得出明确结论。
  • 针对全面自动化决策，特别是在行政裁量场景下，仍缺乏足够的研究。

• 研究动机：

  • AI决策对公民生活的广泛影响及其潜在的权力不对等性。
  • 公民的公平感会影响其对AI技术的接受程度，这是确保数字化公共服务成功的重要因素。
  • 当前法规（如GDPR）虽然要求自主决策的解释，但未规定具体解释的标准和特性。

• 研究问题：

  • 不同层次的AI决策解释如何影响公民的公平感知（信息公平性和分配公平性）及其对系统的接受度？

解决方案

• 方法与设计：

  • 本研究设计了一个与实际情景相符的调查：基于视频短片向受试者展示公民通过自助服务终端（配备AI裁量权）更新过期身份证的过程。
  • 提供三种不同层次的解释：无解释（Baseline）、因素解释（Factors Explanation）及加权因素解释（Factors and Importance Explanation）。
  • 使用混合线性模型对定量数据进行分析，并结合开放式问题收集的定性数据进行补充探讨。

• 创新点：

  • 提出结合解释细节层次与公民AI素养的新分析框架。
  • 通过公开调查验证不同解释层次对公平性感知和技术接受度的影响，进一步细化对公民用户体验的研究。

• 实施步骤和技术：

  • 构建运行AI算法的自助服务终端原型，为视频场景提供必要技术支持。
  • 随机分配参与者观看三种解释层次的视频情景。
  • 设计并实施包含定量测量与开放反馈的调查问卷。
  • 通过统计分析与主题分析提炼关键结果。

研究成果

• 主要发现：

  • 更详细的解释（如展示决策因素及其权重）显著提升了公民对信息公平性和分配公平性的感知。
  • 提供更多解释内容对技术的接受意愿无显著影响。
  • AI素养较高的公民较低素养者更愿意接受该AI系统，并对决策公平性有更积极的评价。

• 定性分析发现：

  • 有解释比无解释显得更为公平，但公民期望不仅仅是信息的提供，更希望解释能够包含合理性、个性化及明确的决策依据。
  • 公民普遍希望保留一定程度的人工介入，尤其是在争议或错判情境下。
  • 强烈建议允许公民对决策提出申诉，或者设置类似人类行为的宽容处理机制。

• 优势和价值：

  • 有助于设计更为人性化、公正的人工智能决策系统，适用于公共行政服务。
  • 公民视角下的研究数据提供了关于如何设计AI解释功能以增强信任的重要实证依据。

• 局限性：

  • 仅探讨了低风险的裁量场景，结果在高风险场景下的适用性尚有待验证。
  • 样本仅限德国居民，地理及文化的多样性在研究中的体现有限。

• 未来方向：

  • 扩展研究至更多高裁量权、高风险的公共服务场景（如儿童福利、移民国籍）。
  • 考察跨地域、不同文化背景下对AI裁量与解释机制的接受度差异。
  • 深入研究人类与AI在混合裁量中的角色分布及潜在公平性冲突问题。

总结

本研究通过量化和质性分析证实了解释层次和AI素养对公民感知的显著影响，提出了优化公共行政领域AI应用的设计建议，对政策制定者、技术开发者均具有实践意义。