利用众包防止有害AI行为

为防止有害AI行为，人们需要指定禁止不良行为的约束条件。然而，这是一项复杂的任务，因为在现实情况中编写区分有害与非有害行为的规则相当困难。本文研究如何使众包人群协作向AI系统传达高质量、可靠的约束条件。首先关注人类如何推理AI行为背景下的时间动态，通过基于游戏的实验平台发现参与者似乎自然采用长期伤害概念，即使在不影响他们的不确定情况下。基于这一洞察，我们探索长期约束规范的任务设计，开发新的过滤方法和促进用户反思的方法。接着开发了一种新颖的基于规则的界面，允许人们在无需编程知识的情况下编写规则。我们在实际教育领域的AI问题中测试了我们的方法，发现新的过滤机制和界面显著提高了约束质量和人类效率。我们还展示了这些系统如何应用于其他现实世界的AI问题（如社交网络）。