去极端化YouTube：宗教不容忍阿拉伯视频的表征、检测与个性化

视频

DOI

越来越多的证据表明，YouTube的推荐算法通过呈现极端内容在在线极端化中发挥作用。激进伊斯兰组织尤其利用YouTube的全球吸引力传播仇恨和圣战宣传。在这项定量、数据驱动的研究中，我们调查了宗教不容忍阿拉伯YouTube视频的流行程度、平台推荐此类视频的倾向，以及这些推荐如何受到人口统计和观看历史的影响。基于我们开发的检测仇恨视频的深度学习分类器和超过35万视频的大规模数据集，我们发现针对宗教少数群体的阿拉伯视频在搜索结果(30%)和一级推荐(21%)中特别流行，21%的视频被推荐给用户。总体捕获的推荐中有15%指向仇恨视频。我们的个性化审计实验表明，性别和宗教身份可以显著影响接触仇恨内容的程度。我们的研究结果为了解在线极端化现象提供了重要见解，并有助于遏制在线有害内容。