AI可信度指标在社交影响下对虚假信息检测和传播的影响

社交媒体上的虚假信息已成为一个严重问题。使用可信度指标（可能由AI模型生成）标记新闻报道是帮助人们打击虚假信息的一种方式。在本文中，我们报告了两项随机实验的结果，旨在了解在人们受到社交影响（他们的新闻判断受他人影响）的情况下，AI可信度指标对人们感知和参与新闻的影响。我们发现，AI可信度指标的存在促使人们将他们对新闻真实性的信念与AI模型的预测保持一致，无论其正确与否，从而改变了人们检测虚假信息的准确性。然而，当存在社交影响时，AI可信度指标对影响人们参与真实新闻或虚假新闻的效果有限。最后，研究表明，当存在社交影响时，AI可信度指标对虚假信息检测和传播的影响比不存在社交影响时更大，前提是这些指标是在人们形成自己对新闻的判断之前提供的。我们最后讨论了更好地利用AI打击虚假信息的启示。