GAM 教练：迈向交互式和用户中心的算法补救

文献标题

GAM Coach: Towards Interactive and User-centered Algorithmic Recourse

文献信息

• 主题领域: 人机交互与可解释人工智能
• 关键词: 算法性补救, 对抗解释, 可解释性, 用户中心, 交互系统

研究背景与问题

• 问题与挑战:
  • 算法性补救旨在为受机器学习决策系统影响的用户提供改变决策结果的建议。然而，现有方法假定模型开发者能够理解哪些输入变量可以被用户改变，这种假设忽略了补救行动的主观性及用户差异。
  • 现有补救计划的可行性不足，并未充分考虑用户偏好，也难以适应用户的动态需求。
• 重要性:
  • 随着机器学习在贷款申请、招聘、大学录取等高风险决策中的广泛应用，提供透明且用户友好的补救工具有助于减轻受决策影响人员的困惑，增强人工智能技术的社会信任。
• 研究动机与相关工作:
  • 当前的多数方法生成的是静态的“对抗样本”，缺乏灵活性和用户参与。
  • 有研究试图通过分组或增加补救选项的多样性来改善，但仍有局限，用户在行动性方面的偏好没有被充分考虑。

解决方案

• 方法与创新:
  • 提出GAM Coach，一个交互式、用户中心的算法性补救工具，通过整合可解释机器学习模型（Generalized Additive Models, GAMs）与线性整数规划技术以生成定制化的对抗解释。
  • 设计交互界面，允许用户探索系统行为并动态调整自己的补救偏好，如改变特征的难度、可接受范围，以及考虑最少的变量。
• 实施步骤和关键技术:
  1. 模型选择: 采用透明且结构简单的Explainable Boosting Machines (EBMs)，确保实时用户交互。
  2. CF生成: 使用线性整数规划生成优化的对抗样本，支持连续和分类特征及其交互关系。
  3. 交互界面:
     • 通过“Coach Menu”展示多样化的补救计划。
     • "Feature Panel"支持用户配置特征偏好，包括难度与范围。
     • 提供书签功能，帮助用户保存与比较补救计划。
  4. 开放源代码与文档支持: 使用现代网页技术开发工具，广泛支持并开放Python库供研究者使用。

研究成果

• 具体成果:

  • 工具可以生成考虑用户偏好的可操作性补救计划。
  • 用户通过实验与迭代探索获得满意的补救选项。
  • 通过试验验证GAM Coach的有效性和可用性。

• 比较与优势:

  • 与通用模型无关的方法（如遗传算法、KD树）相比，基于EBM的GAM Coach生成的对抗样本更接近原始输入，更稀疏且失败较少。
  • 工具完全透明，允许用户实时调整与观察模型行为。

• 实验与评估结果:

  • 在41名用户的实验中，参与者认为GAM Coach易用且有助于找到满足自身需求的补救计划。
  • 数据表明用户倾向选择可操作性强、改变特征少的对抗样本。
  • 实验同时揭示透明性使得用户能够发现模型潜在的反直觉性决策模式。

• 局限性与未来方向:

  • 工具目前主要基于透明模型，无法直接应用于复杂黑盒模型。未来可以探索通过简化模型或优化约束以支持更多类型的模型。
  • 需要进行进一步研究以适配真实场景（如贷款或政府资助），并与领域专家及实际用户合作。
  • 用户可能受到信息过载或技术推理过度影响，有必要优化易用性设计。
  • 未来目标包括通过用户中心的视角进一步增强交互体验，并继续研究透明性与算法性补救之间的平衡点。