人工智能正在进入受监管的领域：理解监管机构在金融犯罪检测中对模型可解释性的看法

文献标题

AI is Entering Regulated Territory: Understanding the Supervisors’ Perspective on Model Justifiability in Financial Crime Detection

文献信息

• 主题领域: 人工智能（AI）在金融犯罪检测中的应用，尤其是反洗钱与反恐融资（AML-CFT）领域的模型透明性与合规性。
• 关键词: 模型可解释性、反洗钱、规则严格的环境、金融监管、人工智能、模型可辩护性、透明度、算法公平性、人工智能法规、监管合规

研究背景与问题

• 发现的挑战: 尽管人工智能（AI）技术在银行和金融等高度监管的行业有显著潜力，但其实际采纳率仍较低。尤其在反洗钱（AML-CFT）领域，人工智能技术的使用因模型的“黑箱性”而引发了透明度和可信性方面的担忧。
• 研究问题的意义: 当前基于规则的AML-CFT系统效率低下，许多犯罪活动难以捕获，仅少于1%的非法资金会被追踪或冻结。与此同时，AI在降低人工成本、发现未识别模式和提高检测准确性方面的潜力巨大，因此需要解决AI系统的透明性问题以推动其大规模采用。
• 研究动机与相关工作: 虽然已有AI应用于AML-CFT的研究，专注于模型透明度与合规性的方法论研究较少，尤其是从监管者的视角出发。监管者如何看待AI模型的可解释性及其在复杂法律框架下的应用，需要更深入的研究。

解决方案

• 方法与步骤:

  1. 调查监管者如何进行反洗钱的监督和审计（社会-技术-法律语境）。
  2. 通过场景化工作坊，探讨监管者对AI系统可辩护性的需求。
  3. 结合定性法律研究分析，明确AML-CFT法律对AI透明性提出的具体要求。
  4. 与专家访谈和实地数据采集，验证法律分析结果和需求总结。

• 创新之处:

  1. 提出了监管者对AI系统的七大核心需求，包括模型效率测量、局部样本分析、合理使用验证等。
  2. 引入场景化设计方法，结合计算机人机交互（HCI）和法律分析，为AI在监管中提供更具体、用户导向的建议。

• 使用技术:

  1. 定性研究方法：基于情景设计的研讨，用以收集监管者对AI透明性需求的反馈。
  2. 法律法规分析：解析AML-CFT法规内容及其与AI技术应用的契合性。

研究成果

• 具体成果:

  1. 描述了监管者在AML-CFT中的社会-技术-法律监督系统和常用的审计方法。
  2. 阐明了AML-CFT法规对AI系统透明性提出的要求，如适应风险分类、监测异常侦测能力、报告质量及人机协同。
  3. 提炼了监管者对AI系统七个方面的需求（如对模型基础了解的需求、全球效率测量需求、故障样本的判断需求等）。
  4. 提出了解释性人工智能（XAI）在支持法律合规性方面的潜力与局限。

• 与现有解决方案对比的优势:

  • 更深入地从监管层视角对AI透明性需求进行分析，填补现有研究中关于法务导向的需求调研的空白。
  • 结合了法律分析与HCI设计两大方法，提出了一种多学科的AI合规性研究框架。

• 实验与评估结果:

  • 在研究参与的监管人员中明确了AI“不透明”特性对AML-CFT合规工作的挑战，同时识别了通过采样分析和对模型内部运作的全局评估可缓解这些挑战。
  • 对常规解释手段如特征重要性分析、图网络可视化等提出具体设计建议，同时指出这些方法的潜在误用风险（例如偏倚确认）。

• 局限性与未来方向:

  1. 局限性:
     • 研究设计受限于AML-CFT法规和特定场景（主要围绕模型得分及异常检测）；其他使用场景未覆盖。
     • 参与者的反馈主要基于初步认知，随着AML-CFT技术应用的推进，需求可能会演化。
  2. 未来方向:
     • 开发针对监管情景的对比性解释工具，以支持错误病例的可辩护性分析。
     • 提高AI系统的全局评估指标的可靠性，尤其是在AML领域中开发抗歧视性和透明性的新测试方法。
     • 探讨如何通过整合金融情报单位（FIU）深入了解AML-CFT实际成效。

总结

本研究结合法律与人机交互方法，为AI的AML-CFT合规性设计明确的需求框架。未来相关领域可以利用这些发现，优化AI决策系统的透明度与可解释性，从而增强其在高度监管环境中的接受度与合法性。