基于对话特征与规范违规的在线交互 covert 破坏行为检测

DOI

破坏性行为是对在线建设性互动的普遍威胁。Covert 行为（如 trolling）特别难以自动检测，因为它们使用欺骗性策略来操纵会话。我们展示了一种新的检测方法：分析对话结构而非仅关注孤立消息。基于会话分析，我们证明：（1）会话行为及其规范为了解 covert 破坏提供了更深入的概念；（2）机器学习、自然语言处理和会话结构分析可以补充消息级特征，创建超越先前 trolling 检测方法的模型。我们的模型使用先前研究的消息级特征和新的会话行为特征来检测 overt（攻击性）和 covert（trolling）行为，分别达到了高准确率（0.90 和 0.92）。这些发现为计算分析社交媒体互动提供了理论依据，并提供了有效检测在线 covert 破坏性对话的新方法。