「你总会得到一个答案」：分析用户在面对无法回答的问题和幻觉风险时与AI生成人格的交互

我们研究了一个利用大型语言模型从调查数据创建人格的AI生成人格系统中幻觉（即意外错误信息）的存在和接受程度，进行了54名用户被试内实验。在与这些人格互动后，用户被赋予一项任务向他们提问，包括一个无法回答的问题，意味着该人格缺乏回答该问题的数据。AI生成人格系统有52%的时候提供了一个看似合理但错误的答案，超过一半的时间（57%），用户接受了错误的答案，其余时间用户正确回答了无法回答的问题（无答案）。我们发现，当AI生成人格产生幻觉时，用户回答无法回答的问题出错的概率显著更高。此外，对于不同性别，当AI生成人格产生幻觉时，女性用户和男性用户回答无法回答的问题出错的概率都显著更高。我们识别了AI生成人格答案中的四个主题，发现用户认为AI生成人格对于无法回答的问题的答案冗长且不清晰。研究结果表明，利用LLM的人格需要在被问到无法回答的问题时明确说明数据限制和幻觉的可能性，以确保安全。