跨LLM聊天机器人用户报告风险的表征分析

文献标题

Characterizing User-Reported Risks across LLM Chatbots

出版信息

• 主题领域: 用户报告的关于大型语言模型（LLM）聊天机器人的风险。
• 关键词: LLM聊天机器人, 用户报告风险, NIST AI RMF, ChatGPT, Gemini, Claude, 以人为中心的AI, 安全性, 隐私, 公平性, 可靠性。

背景与问题

• 问题/挑战: 现有关于LLM风险的研究通常局限于单一模型或特定风险类型，且多在受控环境中进行，未能捕捉多个聊天机器人在真实用户体验中的风险表现。
• 重要性: 理解用户报告的风险对于设计更安全、更可靠、更符合用户需求的LLM聊天机器人至关重要，尤其是在这些工具逐渐融入日常生活的背景下。
• 动机与相关工作: 之前的研究记录了诸如有害内容、幻觉和偏见等风险，但缺乏基于用户体验的系统化、多风险、跨聊天机器人分析。本研究通过使用NIST AI风险管理框架分析七个主要LLM聊天机器人中的用户报告风险，填补了这一空白。

解决方案

• 提出的方法: 结合NIST AI风险管理框架（自上而下结构）与自下而上的用户驱动主题聚类方法，分析Reddit上关于七个LLM聊天机器人的讨论。
• 创新点:
  1. 对七个LLM聊天机器人用户报告的风险进行实证表征。
  2. 识别特定聊天机器人的风险模式及风险分布的不均衡性。
  3. 开发结合结构化框架与用户驱动聚类的混合方法。
  4. 探讨用户在日常使用聊天机器人时的效用与风险之间的权衡。
• 流程与关键技术:
  1. 收集提到ChatGPT、Gemini、Claude、DeepSeek、Llama、Mistral和Qwen的Reddit数据（4,438篇帖子和48,797条评论）。
  2. 使用NIST AI RMF将风险分类为七个类别：有效与可靠、安全、公平、可靠与弹性、问责与透明、可解释与可理解、增强隐私。
  3. 应用主题建模（BERTopic）对用户报告的风险进行聚类并识别新兴主题。
  4. 构建交互式知识图谱，展示聊天机器人、风险类别与用户体验之间的关系。

结果

• 具体发现:
  • “有效与可靠”风险在所有聊天机器人中占主导地位（占报告的58.39%），其次是“问责与透明”（16.35%）和“可靠与弹性”（9.27%）。
  • ChatGPT与安全性和公平性问题高度相关，Gemini与隐私问题相关，Claude则与安全性和操作弹性挑战相关。
  • 像“可解释性”（1.23%）和“隐私”（3.85%）这样的低频风险通常表现为用户的权衡，而像“公平性”（4.52%）和“安全性”（6.39%）这样的常见风险则直接影响用户。
• 相较基线的优势:
  • 提供基于真实用户体验的多风险、跨聊天机器人分析，与之前专注于单一模型或风险的研究不同。
  • 结合结构化框架与用户驱动聚类，提供更细致的洞察。
• 实验/评估:
  • 数据来源于51个子Reddit社区，包括特定聊天机器人、AI相关和一般兴趣社区。
  • 使用人工标注验证风险提取管道（Krippendorff’s α ≥ 0.87）。
  • 统计分析（卡方检验）确认不同聊天机器人之间的风险分布存在显著差异。
• 局限性与未来工作:
  • Reddit用户群可能无法代表全球LLM用户，语言偏差可能排除非英语用户。
  • 通过Reddit API收集的数据可能存在时效性或流行性偏差。
  • 未来工作应纳入多样化平台、多语言来源以及纵向分析。

总结

本研究对七个LLM聊天机器人用户报告的风险进行了大规模实证表征，揭示了特定聊天机器人的风险模式以及“有效与可靠”问题的主导地位。通过混合方法，将NIST AI RMF与用户驱动主题建模相结合，分析了Reddit上的讨论。关键发现强调了风险分布的不均衡性、用户权衡以及以人为中心的风险缓解策略的必要性。研究结果突出了在设计和治理聊天机器人时与用户优先事项（特别是可靠性、安全性和公平性）对齐的重要性，同时需要关注隐私和可解释性等不太显著的风险。