应对少年司法中的程序和工具挑战：迈向负责任以人为本的设计

文献标题

Addressing Procedural and Tooling Challenges in Juvenile Justice: Towards Responsible and Human-Centered Design

出版信息

• 主题领域: 少年司法系统中的社会技术挑战与设计机遇。
• 关键词: 少年司法、案件管理、系统性不平等、人本设计、负责任的人工智能、批判种族理论、跨机构协调、创伤知情护理、劳动力挑战、设计虚构。

背景与问题

• 问题/挑战: 少年司法部门（DJJ）面临系统性低效、文档碎片化以及劳动力短缺的问题，这导致了误诊、不安全的安置以及错失早期干预和识别青少年进步的机会。现有工具和流程无法满足DJJ工作人员和青少年的独特需求。
• 重要性: 这些问题直接影响青少年的护理和康复，进一步加剧了系统性不平等并提高了再犯率。解决这些问题对于改善弱势群体的结果至关重要。
• 动机与相关工作: 之前在政府服务领域（如儿童福利系统、司法部门）中人工智能的进步显示了在决策和资源分配方面的潜力，但同时也暴露了诸如偏见、缺乏透明性以及整合不良等风险。本研究基于这些经验教训，探索DJJ工作人员和青少年的具体需求。

解决方案

• 提出的方法: 提出一个以人为中心的负责任人工智能（HCR-AI）框架，以指导未来工具的设计，解决DJJ工作流程中的系统性挑战。本研究使用设计虚构备忘录来探索推测性解决方案。
• 创新性:
  1. 将已有文献中广泛记录的劳动力挑战扩展到DJJ这一未被充分探索的领域。
  2. 应用批判种族理论（CRT）分析少年司法中的系统性不平等。
  3. 提出针对DJJ需求的推测性人工智能工具，强调可解释性、情境灵活性和情感可持续性。
  4. 强调在技术设计中以DJJ工作人员和青少年的真实经历为基础的重要性。
• 研究程序与关键技术:
  • 对15名DJJ员工和分包商进行了半结构化访谈。
  • 使用受CRT启发的反思性主题分析方法对数据进行分析。
  • 开发设计虚构备忘录，以设想人工智能工具解决已识别的挑战。

结果

• 具体发现:
  • 系统性低效、文档碎片化以及人员不足导致了误诊、干预延迟以及对青少年护理的妥协。
  • 高流动率和培训不足加剧了这些问题。
  • 当前工具如JJMS存在分散且低效的问题，需要人工补救。
• 相较基线的优势:
  • 提出的人工智能工具旨在解决模式识别、文档记录和跨机构协调中的空白，提供量身定制的洞察并减少行政负担。
• 实验/评估:
  • 访谈重点在于了解DJJ工作流程、工具挑战以及工作人员对人工智能的看法。
  • 使用设计虚构备忘录探索推测性解决方案，但未与参与者共同设计或测试。
• 局限性与未来工作:
  • 本研究未提供经过测试的解决方案，仅提出推测性方向。
  • 未来工作应与DJJ工作人员和青少年共同设计，以完善和验证提出的工具。
  • 需要进一步研究以解决交叉性不平等问题，并确保人工智能系统不会加剧伤害。

总结

本研究识别了少年司法部门中的系统性低效、工具碎片化以及劳动力挑战，这些问题阻碍了对青少年的公平和有效护理。作者以批判种族理论和以人为中心的负责任人工智能为指导框架，提出了推测性的人工智能工具以应对这些挑战。设计虚构如创伤感知模式洞察工具和持续旅程追踪器，展示了人工智能如何支持模式识别、早期干预和文档记录，同时保留人类判断并解决系统性不平等。这些发现为未来研究和共同设计工作奠定了基础，以确保少年司法中的技术优先考虑公平、尊严和长期福祉。