ConvEx：面向Discord版主的视觉对话探索系统

版主是维护健康在线社区的核心力量。对于这些通常来自社区的志愿者版主而言，随着在线社区持续增长，筛选内容并及时回应不当行为已变得越来越具挑战性。为应对这些规模方面的挑战，近期研究致力于为各类平台（如Reddit、Twitch、Facebook和Twitter）的版主设计更好的工具。在本文中，我们聚焦Discord——一个社区通常参与大型同步群聊的平台，其环境比以往研究的平台节奏更快且缺乏结构。为解决Discord带来的独特挑战，我们开发了一个名为ConvEx的新人机协作系统，用于探索在线对话。ConvEx是标准Discord界面的AI增强版本，旨在帮助版主主动识别和预防潜在问题。它提供对话指标的可视化嵌入，如活跃度和毒性水平，并可扩展以可视化其他指标。通过对八名活跃Discord服务器版主进行用户研究，我们发现ConvEx支持监控服务器和分析对话的多种高级策略。ConvEx使版主能够在获得服务器多频道活跃度全景视图的同时，将注意力引导至频道中有问题的对话和消息，帮助他们识别重要的上下文信息，以从AI分析中获得可靠信息，同时也能捕捉到AI错过的上下文细节。最后，我们讨论了将AI集成到未来用于审核同步、非结构化在线对话的界面中的设计考量。