利用GenAI重塑法律事实核查：迈向有效的人机协作

文献标题

Reimagining Legal Fact Verification with GenAI: Toward Effective Human-AI Collaboration

出版信息

• 主题领域: 法律事实验证中的人机协作。
• 关键词: 法律事实验证, 生成式人工智能 (GenAI), 人机协作, 责任, 透明性, 法律技术, 专业判断, 自动化, 高风险领域, 认识论对齐。

背景与问题

• 问题/挑战: 现有的法律技术工具无法支持复杂且依赖判断的任务，例如事实验证，这类任务需要整合分散的信息来源并进行解释性推理。而生成式人工智能 (GenAI) 在该领域的潜力尚未得到充分探索。
• 重要性: 事实验证在非诉讼法律实践中至关重要，支撑着诸如监管合规、合同承诺和咨询服务等高风险决策。错误可能导致严重的财务、声誉和法律后果。
• 动机与相关工作: 之前的研究主要集中于特定子任务的自动化以及生成式人工智能在起草和研究中的应用，但尚未涉及如何利用生成式人工智能辅助动态且解释性强的工作流（如事实验证）。在高风险领域的人机协作研究强调需要设计增强而非取代专业判断的系统。

解决方案

• 提出的方法: 提出将生成式人工智能 (GenAI) 集成到法律事实验证工作流中的设计见解，重点关注透明性、责任和人工监督。
• 创新点:
  1. 确定生成式人工智能在减轻认知负担的同时保留专业判断的角色。
  2. 针对法律事实验证设计透明且可审计的人工智能系统需求。
  3. 探讨认识论对齐和专业化以满足法律标准。
• 程序和关键技术:
  • 对18名非诉讼律师进行半结构化访谈，以了解当前实践、挑战以及对生成式人工智能的期望。
  • 对访谈数据进行主题分析，识别工作流、复杂性和未来协作模型的设想。
  • 提出生成式人工智能系统的透明性、自动化和专业化机制。

结果

• 具体发现:
  • 生成式人工智能支持在不熟悉的领域中进行认知定向、文档起草以及事实验证任务的早期结构化。
  • 律师选择性地使用生成式人工智能，原因包括对准确性、保密性和责任的担忧。
  • 透明性、可追溯性和专业化对于使生成式人工智能符合法律认识论规范至关重要。
• 相较基线的优势: 生成式人工智能减少了准备工作负担和认知压力，但需要谨慎集成，以避免引入新风险或削弱专业责任。
• 实验/评估: 对18名律师进行半结构化访谈，主题分析其工作流、挑战以及对生成式人工智能在法律事实验证中的期望。
• 局限性与未来工作:
  • 自我报告数据可能无法完全反映实际实践；观察性研究可以补充这些发现。
  • 对跨领域比较的关注有限；未来研究可以探讨生成式人工智能在其他高风险领域的应用。
  • 研究集中于非诉讼；将研究扩展到诉讼领域可能揭示领域特定的差异。

总结

本研究探讨了生成式人工智能 (GenAI) 如何支持法律事实验证，这是一项复杂且依赖判断的非诉讼实践任务。通过对18名律师的访谈，研究发现生成式人工智能在准备任务中具有减轻认知负担的潜力，同时强调了准确性、保密性和责任相关的关键挑战。研究结果突出了透明、可审计和专业化的人工智能系统需求，这些系统需与法律认识论规范对齐并保留专业监督。通过满足这些要求，本研究为高风险法律工作流的负责任人工智能工具设计做出了贡献，并推动了专家与人工智能协作的HCI研究。