价值敏感算法设计：方法、案例研究与启示

开发自动化或人工智能算法系统最常用的方法是基于大数据和机器学习的。然而，这些方法可能失败，原因有二：(1)可能缺乏与用户和其他利益相关者的关键互动；(2)主要依赖历史人类判断，而这些判断无法捕捉和整合关于未来世界如何改善的人类见解。我们提出并描述了一种设计此类算法的新方法，称为价值敏感算法设计。价值敏感算法设计在算法创建的早期阶段纳入利益相关者的隐性知识和明确反馈。这增加了避免设计选择中的偏见或 compromising关键利益相关者价值观的可能性。通常，我们认为算法应该设计为平衡多个利益相关者的需求、动机和利益，并帮助实现重要的集体目标。我们还描述了一个具体项目"为维基项目设计智能社交算法"来说明我们的方法。我们希望本文有助于关于在社会中支持关键决策的算法使用这一持续丰富的对话。