“如果容易理解就会有价值”：与印度农村社区卫生工作者探讨可解释人工智能的认知

DOI

人工智能驱动的工具正日益部署用于支持全球南部难以到达的社区中的低技能社区卫生工作者。本文研究了印度农村社区卫生工作者如何理解和感知人工智能解释，以及我们如何设计让他们更容易理解的可解释人工智能界面。我们对与设计探测仪互动的社区卫生工作者进行了半结构化访谈，该探测仪用于预测新生儿黄疸，其中包含人工智能建议及相应解释。我们（1）确定了社区卫生工作者如何解读人工智能预测及相关解释，（2）揭示了他们感知到的解释的优势和陷阱，（3）详细说明了不同解释设计元素如何影响他们的人工智能理解。我们的发现表明，虽然社区卫生工作者难以理解人工智能解释，但他们仍强烈希望将解释整合到人工智能工具中，并认为解释有多项好处，例如帮助社区卫生工作者学习新技能，以及增强患者对人工智能工具和社区卫生工作者的信任。我们最后讨论了哪些人工智能元素需要向社区卫生工作者等人工智能新手用户解释，并概述了具体的设计建议，以提高非西方背景下人工智能新手用户的可解释人工智能实用性。