聊天中的渗透：大型语言模型聊天机器人对话中虚假信息的微妙注入增加了错误记忆的形成

DOI

本文研究恶意生成式聊天机器人通过在用户交互中注入微妙的错误信息来诱导错误记忆的潜力。一项涉及180名参与者的实验探索了在展示一篇文章后的五种干预条件：（1）无干预，（2）阅读诚实或（3）误导性文章摘要，（4）与诚实或（5）误导性聊天机器人讨论该文章。结果显示，误导性摘要条件增加了错误记忆的发生，而误导性聊天机器人交互导致了显著更高的错误再认率。这些发现凸显了随着对话人工智能变得更加普遍而出现的相关风险。本文最后讨论了这一令人担忧的现象的影响并提出了未来的研究方向。