合成谎言：理解人工智能生成的虚假信息及评估算法和人类解决方案

视频

DOI

大型语言模型具有生成大量类似人类文本的能力，并可用于生成具有说服力的虚假信息。然而，这些风险仍然未被充分探索。为了解决这一差距，本研究首先检查了与人类创作相比，人工智能生成的虚假信息（AI-misinfo）的特点，然后评估了现有解决方案的适用性。我们编译了人类创作的关于COVID-19的虚假信息，并将其抽象为叙述提示，以使语言模型输出AI-misinfo。我们发现人类-AI对之间的语言存在显著差异，并且AI-misinfo在增强细节、传达不确定性、得出结论和模拟个人语气方面存在模式。尽管现有模型仍然能够对AI-misinfo进行分类，但与人类虚假信息相比，其性能显著下降。结果表明，现有信息评估指南的适用性值得怀疑，因为AI-misinfo往往符合证据可信度、来源透明度和局限性承认的标准。我们讨论了这些发现对从业者、研究人员和记者的影响，因为人工智能可以为社会虚假信息问题带来新的挑战。