谎言、欺骗和幻觉：玩家对游戏中的信任与欺骗的感知和期望

文献标题

Lies, Deceit, and Hallucinations: Player Perception and Expectations Regarding Trust and Deception in Games

文献信息

• 主题领域: 人机交互、电子游戏设计、自然语言生成与用户体验
• 关键词: 视频游戏, NPC对话, 信任, LLM幻觉, 玩家体验, 叙事复杂性, 游戏设计, 虚拟代理, 意图归因

研究背景与问题

• 发现的问题或挑战:

  • 在电子游戏中，NPC（非玩家角色）的行为和对话对玩家的信任构建和游戏体验有重要影响。然而，关于玩家如何感知NPC中的谎言或虚假陈述的研究相对较少。
  • 近期，使用大语言模型(LLMs)生成NPC对话逐渐成为趋势，但LLMs会“幻觉”生成事实错误内容，且这些内容缺乏开发者的明确意图。

• 重要性:

  • 谎言、虚假陈述和欺骗可以增强叙事复杂性，使游戏内容更有深度和引人入胜。然而，基于AI生成对话中不可预测的虚假内容可能削弱玩家对游戏的信任感，从而影响整体体验。

• 研究动机与相关工作:

  • 现有研究探讨NPC可信性和谎言认知，主要针对多玩家在线游戏或具体的经济社会理论，但在探索单人游戏中玩家如何看待NPC的真实性以及如何影响游戏设计方面仍然较为稀少。
  • 本研究同时结合了由人类故意设计的虚假内容与由LLMs生成的错误内容，试图分析玩家如何感知、归因并对这些虚假元素作出反应。

解决方案

• 提出的方法或解决方案:

  • 开发了一款名为“AlphaBetaCity”的2D角色扮演游戏，以研究玩家对NPC虚假陈述的感知。
  • 游戏中既包含了由人类设计的“有意”虚假陈述，也保留了LLMs生成的“无意”错误内容，以对比玩家对两种类型的虚假信息的态度差异。
  • 游戏设计包括三个任务场景（熟悉任务、搜寻任务、信息任务），特定NPC会引导玩家到错的地点或提供不准确的信息。

• 创新之处:

  1. 将使用LLMs生成对话引入单机游戏中，并结合“意图性”和“非意图性”虚假陈述进行实验性分析。
  2. 探讨大语言模型在幻觉生成内容时对叙事意义的影响，尤其是当这些生成内容没有叙事意图时，如何引发玩家的认知和情感反应。
  3. 涉及心理学、哲学以及游戏设计的跨学科讨论，提供了从信任建模到叙事艺术性设计的全新思考。

• 实施步骤与关键技术:

  1. 游戏开发：基于传统2D RPG风格，设计包含具体虚假陈述的游戏场景和对话系统，并结合LLMs（ChatGPT 3.5）生成对话脚本。
  2. 用户研究：招募29名参与者体验游戏并完成半结构化访谈，以提取玩家对NPC互动的真实感受。
  3. 数据分析：运采用质性主题分析法，结合编码与归纳总结，提炼关于信任构建和虚假陈述归因的关键主题。

研究成果

• 具体成果:

  • 玩家会在开始游戏时对NPC抱有初始信任，但这种信任可能因虚假陈述逐渐崩塌。
  • 玩家对虚假陈述的归因受一系列因素影响，包括NPC角色与行为一致性、陈述的可验证性、言论的后果以及NPC“意图欺骗”的感知。
  • 当虚假内容被玩家知晓是由LLMs生成且缺乏意图性时，玩家对游戏和NPC的信任显著下降，且互动体验的深度被削弱。

• 与现有解决方案的比较与优势:

  • 本研究明确区分了虚假内容的两种形式（有意设计和无意生成），首次定量分析两种对用户体验的差异。
  • 在探讨LLMs文本生成的不足（尤其是幻觉问题）时，结合电子游戏这一动态叙事背景深化了其社会与技术意义。

• 实验与评估结果:

  • 当虚假陈述与叙事构架一致或具有后果性时，它们被认为可接受，甚至可以改善沉浸感。相反，AI生成的无意虚假内容却因缺乏“意义”而使玩家感到疏离。
  • 绝大多数玩家认为，知晓LLMs参与对话生成会降低对NPC的信任。此外，玩家期望虚假陈述最终能通过剧情获得合理解释或解答。

• 局限性与未来方向:

  • 使用了简化的实验性游戏，未全面覆盖所有类型游戏（如AAA 级游戏或其他叙事风格）。
  • 游戏主要面向教育背景较高且熟悉技术的年轻玩家，欠缺更广泛的用户人口统计数据。
  • 未来需开发跨类型、更复杂的测试案例，以及深入研究如何优化LLMs生成文本的质量和玩法兼容性。

本研究通过开发特定实验性游戏和结合LLMs生成内容，全面分析了虚假陈述在游戏设计与玩家体验中的应用潜力，具备一定的理论和实践价值。