内容审核的可质询性设计

视频

DOI

社交媒体内容审核系统存在诸多偏见问题，涉及种族、性别和能力等方面。解决自动化决策中此类问题的一种方案是设计可质询性，使用户能够塑造和影响决策方式。本研究与曾经历过社交媒体内容审核问题的社区成员共同开展了一系列参与式设计工作坊。我们与参与者一起探索为内容审核设计可质询性的理念，发现用户的设计提出了三个富有成效的实用途径：增加代表性、改进沟通、以及设计更具同理心。我们最后根据参与者的建议提出设计建议，并反思了仍面临的挑战。