促进WhatsApp群组中有害内容审议的对话代理

DOI

WhatsApp群组已成为有害内容传播的温床，包括虚假信息、仇恨言论、极化内容和谣言，尤其在Global South国家。鉴于平台的端到-end加密，审核责任落在群管理员和成员身上，但他们很少对这些内容提出质疑。另一种方法是事实核查，但它无法扩展，只能质疑事实性内容（如虚假信息）而非主观内容（如仇恨言论）。我们借鉴近期文献，探索审议——开放包容的讨论——作为替代方案。我们研究对话代理在促进WhatsApp群组中有害内容审议中的作用。我们对21名印度WhatsApp用户进行了半结构化访谈，采用设计探测展示一个示例代理。参与者表示需要匿名，并推荐人工智能辅助减少审议所需的努力。他们欣赏代理的中立性，但指出在回音室群组中审议是无用的。我们的发现强调了该代理的设计张力，包括隐私与群组动态的平衡以及私人空间中的言论自由。我们使用审议理论作为视角讨论审议的效力，比较审议与审核和事实核查，并为未来此类系统提供设计建议。最终，这项工作通过为设计用于打击社交媒体私人群聊中有害内容的审议系统提供洞见，推进了CSCW领域的发展。