执法领域中可解释人工智能的需求与态度

在执法等高风险领域，人工智能有潜力提高有效性和包容性，其决策必须信息充分且可问责。因此，为此类环境设计可解释人工智能(XAI)是一个关键的社会关注点。然而，实践中的解释往往过于技术化或抽象。为了解决这一问题，我们与一个欧盟国家的警察员工进行了接触，他们是一个文本分类器的用户。我们发现，对他们来说，可用性和实用性在解释设计中是最重要的，而可解释性和可理解性则不那么受重视。基于这些见解，我们提出了以领域专家的清晰度和相关性为中心的设计指南。我们贡献了建议，指导XAI系统设计者更好地满足专业用户的特定需求，并促进人工智能工具在公共服务中的负责任使用。