人工智能人类监督的设计考量：来自协作设计研讨会和工作设计理论的启示

随着人工智能系统变得越来越能力和自主，领域专家的角色正在从自行执行任务转变为监督人工智能生成的输出。这种监督至关重要，因为未被检测到的错误可能产生严重后果或削弱人工智能的好处。然而，有效的监督不仅取决于检测和纠正人工智能错误，还取决于监督人员的动机和参与度，以及他们在工作中感受到的意义感。然而，关于领域专家如何处理和体验监督任务，以及应该考虑什么来设计有效和激励人心的接口以支持人类监督，目前知之甚少。为了解决这些问题，我们与来自心理学和计算机科学领域的领域专家进行了四个协作设计研讨会。我们请他们首先监督一个人工智能评分系统，然后讨论他们监督过程中的体验和需求。最后，他们协作设计了可以支持监督任务的接口。我们的主题分析揭示了四个关键用户需求：理解任务和职责、深入了解人工智能的决策过程、有意义地贡献流程以及与同事和人工智能协作。我们将这些经验见解与工作设计的SMART模型相结合，开发了一个包含十二个设计考量的框架，与已识别的用户需求相比具有更高的可迁移性。我们的框架将接口特性和用户需求与有效和令人满意的心理过程联系起来。基于工作设计理论并与现有的人机交互指南重叠，我们期望这些考量适用于各个领域，并讨论它们如何超越现有的人机交互指南，为支持人工智能系统人类监督的引人入胜且有意义的接口设计提供信息。