AI性能、风险感知与信任对人类依赖深度伪造检测AI系统的影响

人工智能现在可以生成和编辑合成图像、音频和视频。特别是合成数据的恶意使用引发了对网络安全、个人隐私和公众信任潜在伤害的担忧。尽管存在基于AI的检测工具帮助识别合成内容，但其局限性常常导致用户不信任以及真实内容与虚假内容之间的混淆。本研究通过在线人体实验（400名参与者）考察了AI性能在影响人类对合成数据识别的信任和决策中的作用。研究发现参与者如何根据感知风险和AI提供的预测结果来调整对AI的依赖程度。这些见解有助于开发更透明、可解释的AI系统，以更好地帮助日常用户减轻合成媒体的危害。