理解边缘的竞争性：对公共服务中算法决策设计的启示

文献标题

理解边缘的可争议性：对公共服务中算法决策设计的启示

文献信息

• 作者: Naveena Karusala, Sohini Upadhyay, Rajesh Veeraraghavan, Krzysztof Gajos
• 发表会议: CHI Conference on Human Factors in Computing Systems (CHI ’24)
• 发表时间: 2024年5月11日–16日
• 关键词:
  • 算法决策
  • 公共服务
  • 可争议性
  • 印度
  • 美国
  • 伴随支持
  • 解释性
  • 弱势群体
  • 信息不透明
  • 程序公平

研究背景与问题

• 发现问题: 本研究发现在全球范围内，尽管政界和科研界已愈加关注算法决策中的可争议性，但这些探讨尚未充分反映边缘化群体的实际经验。尤其在非西方国家和弱势社区中，关于如何实施有效的争议性机制的细节尚存缺失。
• 重要性: 当前，多个公共领域（如住房、土地资源和福利分配）广泛应用算法决策，这可能加剧现有不平等现象。如果无法有效设计争议与补救机制，将可能进一步侵蚀边缘人群的基本权利。
• 研究动机与相关工作: 本研究以社会技术系统中的实际争议情境为研究契机，通过分析印度和美国公共住房服务的案例，试图揭示更广泛的社会背景及争议机制对设计与政策的影响。

解决方案

• 提出的解决方案:
  • 借鉴“伴随性支持”（accompaniment）的健康领域概念，提出在算法决策设计中融入持续、开放和负责任的伴随式支持模型。
  • 在具体应用中，探讨多方协助（如非政府组织、法律工作者）如何帮助边缘人群在复杂决策过程中更好地下决策、争议及获取公平结果。
• 解决方案的创新之处:
  • 首次提出“伴随性支持”概念在公共服务中扩展使用的可行性，将其用于帮助边缘人群识别、回应算法决策造成的不公正。
  • 将特定案例（美国的住房危机与印度的土地使用争议）作为研究依据，在比较中细化不同政治社会情境下的争议性模型。
• 实施步骤:
  • 以定性研究为基础，通过深度访谈和观察法，分别研究印度乡村（如Irula社区）与美国城市（如波士顿地区）中的公共服务争议处理。
  • 组织数据分析，使用编码和交叉对照方法挖掘不同行为主体（申请者、社区协调员、政府机构）在公共服务争议中的参与和作用。
  • 汇总研究发现，形成支持争议性决策系统设计的具体改进建议。

研究成果

• 具体成果:
  • 揭示了在数字化程序中信息透明性不足、执行机制复杂化如何加重边缘化群体获取公共资源的挑战。
  • 强调伴随者（如NGO、律师、社区领导）的角色对争议性解释、处理和行动指导的重要性。
  • 提出优化公共服务算法设计的具体建议（如提高沟通透明度、保障人为审查），以减少程序性和结果性不公。
• 与现有解决方案的比较优势:
  • 当前研究超越了传统算法决策讨论中对透明度和对抗性解释的单一关注，将焦点转移到争议过程所需的社交支持、知识转移和影响力策略上。
  • 与单一西方背景的研究形成对比，融入了全球南方的实践经验，为发展中国家治理情境提供了启发。
• 实验与评估结果:
  • 在印度，研究发现社区协调员和法律支持者是确保争议有效性的核心，但受限于资源和跨部门协调。
  • 在美国，尽管有完整的公共住房申请机制，但语言、法律知识和文化因素导致移民申请者更容易被动放弃争议。
• 局限性与未来方向:
  • 局限性:
    • 研究以未直接使用算法的情境为研究对象，尽管提供了背景参考，但并未验证算法介入对行为动态可能带来的根本性变化。
    • 数据集中于少数样本案例，尚不足以进行全面政策建议。
  • 未来方向:
    • 深入具体算法工具的开发与部署，研究其如何与社会支持系统协同。
    • 探讨算法治理在非西方国家中可能的结构化作用（如通过数据透明促进基层问责）。