在线性风险检测计算方法的人本性系统性文献综述

视频

DOI

在大数据与人工智能时代，在线风险检测成为热门研究主题。从网络骚扰检测到青少年性侵害风险识别，计算风险检测技术有望保护弱势群体免受网络侵害。然而，这是高风险高回报的研究，需要系统性的人本位方法来综合不同应用领域的研究，以识别最佳实践、潜在差距，并制定战略性研究议程。因此，我们对73篇利用文本或元数据/多媒体进行在线性风险检测的计算方法同行评审文章进行了综合文献综述。我们识别出三种性风险检测类型：性诱导（75%）、性贩卖（12%）以及性骚扰和/或虐待（12%）。此外，我们发现该领域的大多数研究（93%）专注于事后识别性侵害者，而不是采用更细致的方法来识别潜在受害者和可用于预防受害的问题模式。许多研究依赖公共数据集（82%）和第三方标注者（33%）来建立真值和训练算法。最后，该领域的大多数研究（78%）主要关注模型算法性能评估，而很少（4%）使用真实用户进行评估。因此，我们敦促计算风险检测研究人员采用更多的人本位方法来开发和评估性风险检测算法，以确保这项重要工作的更广泛社会影响。