让设计师保持参与：在多个目标中传达固有的算法权衡

视频

DOI

人工智能算法已被用于增强各种产品和服务，包括在高风险情境中辅助人类决策。然而，这些算法功能复杂且存在权衡，特别是在预测准确性与对人口子群的公平性之间。这使得设计师难以理解算法，也难以在尊重用户目标、价值观和需求的方式下设计产品或服务。我们提出了一种帮助设计师和用户探索算法、可视化其权衡并选择与其目标和需求一致的算法的方法。我们通过(i)大规模的Amazon Mechanical Turk实验，和(ii)与领域专家的深入访谈，在预测刑事被告再犯可能性的问题上评估了我们的方法。我们的评估表明，我们的方法可以帮助这些系统的设计师和用户更好地理解和应对算法权衡。本文为设计师提供了一种新途径，让他们能够理解和控制所创建算法的结果。