"我们永远不会写下来"：失业者分类与人工智能的数据挑战

DOI

本论文旨在引起对在敏感情境（如福利分配）中部署人工智能系统的新复杂性的关注。人工智能正越来越多地用于公共管理，承诺改善决策。要做到这一点，它需要作为决策一部分使用的所有标准，包括正式和非正式标准。在本论文中，我们实证探讨了丹麦就业中心的案例工作者用来使失业福利申请者"适应"正式分类的非正式分类方法。我们的发现表明，案例工作者使用的分类是可记录的，因此可以追溯到人工智能。然而，对案例工作者来说，分类与任何记录系统所假设的稳定解释相矛盾，因为它们涉及对人们性格的协商和情境判断。因此，出于道德原因，案例工作者认为它们不适合正式表示，永远不会写下来。结果是，人工智能被剥夺了决策的现实世界（和实际工作）性质。这对CSCW至关重要，因为这不仅涉及人工智能是否能"做"决策，正如之前的研究所表明的。在本论文中，我们表明问题也可能由人们不愿提供这些系统所需的数据引起。本论文的目的是呈现这一研究的实证结果，然后讨论对人工智能支持的实践和未来研究的启示。