概念化解释对AI辅助可信度评估信任的影响

DOI

随着 misinformation 在社交媒体平台上日益泛滥，如何向终端用户传达自动化新闻可信度评估并培养对事实核查AI的信任变得至关重要。本研究调查了与模型无关的自然语言解释如何影响对事实核查AI的信任和依赖。我们从四种概念化验证（CVs）构建解释：共识性、专业性、内部（逻辑）性和经验性——这些是人类用于验证和接受新信息的基本证据单元。结果表明，提供解释显著增强了即使在事实核查情境下对AI的信任，影响既有信念通常具有挑战性，不同CVs导致不同程度的依赖。我们发现共识性解释影响最小，专业性、内部和经验性解释的影响是其两倍。然而，用户也无法辨别AI是否引导他们走向真相，揭示了解释既是引导也可能误导的双重性质。此外，我们发现了自动化偏差和厌恶，表现为用户先前建立的AI信任如何调节其对AI判断的依赖。我们还观察到「回旋镖」/适得其反效应的表现，这与传统 misinformation 纠正中的效应类似，当认为AI有偏见或不可信的个人在受到AI挑战时会加倍坚持并强化其既有（不）正确信念。我们最终提供了对基于AI的事实核查期间用户行为动态的细致见解，为社交媒体平台提供重要教训。