从发现到采用：理解机器学习从业者的可解释性历程

当机器学习（ML）从业者能够 readily 理解预测背后的推理时，模型即可称为具有可解释性。讽刺的是，人们对ML从业者在生产环境中发现和采用新型可解释性技术的体验知之甚少。我们对一家大型科技公司中18名使用文本数据的从业者进行了定性研究，发现尽管任务各异，从业者在模型分析工作流中遇到的可解释性方法相关挑战几乎相同。这些挑战源于问题构建、可解释性调查的社交性，以及跨职能组织环境中的非标准实践。对七名从业者的早期设计探针后续检查表明，自称专家的用户是“永恒的中间者”，无论他们之前在模型、分析工具或可解释性技术方面有何经验，都可以受益于工作流中关于可解释性方法的定期、响应式和情境化教育。基于这些发现，我们强调需要为真实世界NLP应用的可解释性方法学习提供多阶段支持。