算法在环决策的原则与局限

机器学习的兴起从根本上改变了决策方式：许多重要决策不再仅由人做出，而是通过「算法在环」的过程，即机器学习模型为人类提供信息。然而，现有研究对人与模型之间的交互如何实际影响人类决策关注不足。社会既缺乏关于人应如何与算法协作的明确规范原则，也缺乏关于人如何与算法协作的可靠实证研究。研究表明，人们在解释机器学习模型并将其纳入决策时存在困难，有时导致这些模型产生意外结果，因此必须考虑不同的模型呈现方式和结构化人机交互方式如何影响决策的质量和类型。本文从两方面做出贡献。首先，我们提出三个对伦理和负责任的算法在环决策至关重要的原则。其次，通过在 Amazon Mechanical Turk 上进行受控实验研究，我们评估人们在风险评估辅助下进行预测时是否满足这些原则。我们研究了两种情境（审前释放和金融借贷）下的人类预测，以及风险评估呈现和结构的多种条件。虽然这些条件确实影响了参与者行为并在某些情况下改善了性能，但只有一个需求始终得到满足。在所有条件下，我们的研究参与者都：1）无法有效评估自己或风险评估预测的准确性；2）没有根据风险评估的表现校准对其的依赖程度；3）在与风险评估交互时表现出偏见。这些结果突显了迫切需要扩展对算法决策辅助的分析，不仅要评估模型本身，还要研究人与算法互动的完整社会技术背景。