构建社交媒体文本内容审查的个性化模型

社交媒体用户经常面临内容过度公开的问题。现有研究大多从受众管理角度解决问题，即推荐合适的受众群体。然而，受众管理策略无法从帖子中过滤敏感信息，也无法缩小内容传播范围。本文从内容角度出发，设计内容审查模型帮助用户评估帖子的公开程度并识别敏感信息，用户可据此修改内容以实现敏感信息保护和更广的内容传播。基于此，我们构建了数据集探索帖子公开程度和敏感信息的相关因素，并结合Seq2Seq和协同训练等先进深度学习技术构建了个性化多任务内容审查模型。我们还以微博为研究平台实现了原型系统——浏览器插件内容审查工具。通过自动评估和人工评估对模型进行验证，自动评估表明模型在精确率、召回率和F1值等指标上优于基线方法，人工评估也表明模型和原型在帮助用户识别敏感信息方面具有重要作用。基于这些结果，我们提出了未来社交媒体内容审查系统设计的若干见解。