走向元层次：一种检测Instagram青少年私信中不安全对话的多模态方法

Instagram是青年人群中最流行的社交媒体平台之一，最近因可能对年轻一代的安全和身心健康造成危害而受到审查。自动风险检测方法可能有助于缓解其中一些风险，前提是这些算法准确且符合年轻人在社交媒体平台上面临的在线伤害类型。然而，Instagram即将转向端到端加密，这将限制平台可用于检测和缓解此类风险的数据类型。在本文中，我们研究哪些指标最能帮助自动检测Instagram私人对话中的风险，重点关注高级元数据，因为在端到端加密情况下这些数据仍然可用。为此，我们从172名青少年（13-21岁）那里收集了Instagram数据，并请他们识别让他们感到不舒服或不安全的私信对话。我们的参与者标记了28,725个包含4,181,970条短信（包括文本帖子和图片）的风险对话。基于这个丰富的多模态数据集，我们测试了多个特征集（元数据、语言线索和图像特征）并训练分类器来检测风险对话。总体而言，我们发现元数据特征（如对话长度，作为参与者参与度的代理）是风险对话的最佳预测因子。然而，为了区分风险类型，不同的语言和媒体线索是最佳预测因子。根据我们的发现，我们提供了在端到端加密情况下人工智能风险检测系统的设计启示。更广泛地说，我们的工作通过推进更稳健的风险检测解决方案（直接考虑年轻人的真实风险体验）为青少年在线安全文献做出了贡献。