公共无家可归服务中的关怀数据化

研究背景与问题

• 作者发现了哪些问题或挑战？

  • 北美地区的公共无家可归系统正在转向数据驱动的方式，利用标准化和算法工具来评估客户需求和分配资源。然而，这些系统在实施中面临多个问题，包括：
    • 数据质量和代表性不足，导致算法模型的有效性受到限制。
    • 客户不愿意共享信息以及对系统的不信任，进一步影响数据的准确性和可靠性。
    • 不同服务提供者之间的数据实践不一致，可能导致服务重复和客户体验的恶化。
    • 算法化的风险评估工具（如VI-SPDAT）的固有偏见和局限性未得到有效解决。

• 为什么这个问题很重要？

  • 无家可归问题是一个复杂的社会挑战，利用数据和AI技术优化资源分配可以提升服务效率并改善客户结果。然而，不健全的数据工作和对算法工具的盲目依赖可能导致对弱势群体的进一步不公平，并且对社会政策产生负面影响。

• 研究动机与相关工作

  • 本研究受到SIGCHI社区内关于公共领域算法研究的启发，延续了对高风险社会技术系统（如无家可归援助系统）的批判性分析。这些研究揭示了AI工具可能带来的偏差和社会负面效应，但缺乏对前线工作者数据实践的深入理解。

解决方案

• 作者提出了哪些方法或解决方案？

  • 作者提出了一种“系统性视角”来研究前线工作者在流浪者支持系统中如何进行数据采集与实践，并将其视为连续的、基于关系建立的过程，而不是孤立于具体场景的静态工作。
  • 提倡从预测性风险评估模型转向整体化、以人为中心的需求评估方法。

• 该解决方案的创新之处是什么？

  • 与许多无家可归系统采用静态风险评估工具不同，如VI-SPDAT，本研究所在的城市采用了更动态和关系导向的评估过程，强调基于客户信任和持续互动的迭代评估。这避免了仅基于“风险评分”将客户分类的偏见问题。
  • 深入研究了前线工作者如何通过启发式决策来应对数据收集中的不确定性和冲突，包括在保护客户隐私与满足政策数据需求之间的权衡。

• 实施步骤是什么？使用了哪些关键技术？

  • 采用了3个月的民族志研究方法，在城市无家可归系统内的三个关键服务节点（呼叫中心、街头外展团队和庇护所）进行观察和访谈。
  • 记录并分析了31位员工的访谈内容，以及来自21名工作人员的60小时现场观察，探讨数据实践与组织目标之间的张力。

研究成果

• 取得了哪些具体成果？

  • 揭示了三种核心的“以关怀为导向”的数据实践目标：
    1. 匹配目标：收集足够的客户信息以迅速分配资源。
    2. 客户隐私与自主权目标：尊重客户不提供信息的意愿。
    3. 公平目标：满足政策需求，特别是跟踪不同族群的服务结果和减少系统中的社会歧视。
  • 表明数据的不一致性（例如客户对相同问题的不同回答）是由客户对系统的不信任、组织间数据共享的限制以及资源不足引发的。

• 与现有解决方案相比，它有哪些优势？

  • 与传统的风险评估工具相比（如基于固定模型的AI工具），这种关系型的数据收集和评估方法更能解决客户在真实环境中的需求动态，避免了仅通过单一评分决定客户优先级的机制性缺陷。
  • 其系统性和迭代性方法使得前线工作者能够逐步建立与客户的信任，从而提高数据完整性和真实性。

• 实验或评估结果是什么？

  • 数据实践在空间（如庇护所设置）、技术（如纸质与数字化记载工具）、和人员（如工作经验差异）方面受到多样化因素的影响。
  • 在客户评估过程中，数据被视为动态和变化的，而不是静态的“真实”。这为未来算法工具的设计提出了挑战，即如何考虑数据的时间性和演变。

• 局限性与未来方向

  • 本研究主要集中在一个加拿大大城市，其数据实践可能无法完全适用于其他不同制度框架或文化背景的无家可归服务系统。
  • 面向未来的研究应该包括具有无家可归经验的客户的观点，同时探索其他公共服务领域中类似的算法挑战。

总结与启示

• 本研究强调了发展以人为本的数据实践的重要性，尤其是在面临复杂社会技术挑战的领域，比如无家可归援助。在推动AI工具应用的过程中，作者倡导重新审视既有的风险评估方法，由“基于缺陷分类”转向以人在环境中的动态需求评估为核心的架构设计。
• 未来的研究可以进一步探索如何赋权前线工作人员，使其在AI模型的结果中具有解释和争议的能力，并构建更公平和透明的社会技术系统，为弱势群体在公共系统中争取更多利益和机会。