说服的机器人：研究对话式智能体的人格化语言表达如何影响用户感知与决策

文献标题

The Bots of Persuasion: Examining How Conversational Agents' Linguistic Expressions of Personality Affect User Perceptions and Decisions

出版信息

• 主题领域: 人机交互，基于人工智能的劝说机制
• 关键词: 对话代理，语言个性，劝说，慈善捐赠，情感操控，信任，共情，人工智能伦理

背景与问题

• 问题/挑战: 对话代理（CAs）通过语言表达个性对用户决策和感知的影响仍然理解不足，尤其是在慈善捐赠等情境中。
• 重要性: 理解这些机制至关重要，因为人工智能系统日益融入日常生活，其既可能带来积极影响，也可能导致有害操控。
• 动机与相关研究: 先前研究表明，人工智能系统可以影响信任、共情和决策，但对话代理中具体语言个性表达的细微影响尚未被深入探讨。本研究基于心理语言学和人机交互文献填补这一研究空白。

解决方案

• 提出的方法: 探讨通过语言表达个性（态度、权威性、推理方式）的对话代理如何在慈善捐赠情境中影响用户感知和捐赠决策。
• 创新点:
  1. 设计了结合三种语言特征（乐观/悲观态度、权威/顺从权威性、理性/情感推理）的八种不同对话代理个性。
  2. 研究对话代理个性对用户感知和情感状态的间接影响，而非直接劝说。
  3. 识别人工智能驱动劝说机制中的潜在“情感暗模式”。
• 程序与关键技术:
  • 通过众包平台开展了包含360名参与者的因子实验，参与者与代表虚构慈善机构的对话代理互动。
  • 使用经过验证的量表测量捐赠行为、信任、共情和情感关联性。
  • 使用LIWC基准和操控检查分析语言表达，以确保实现预期的个性投射。

结果

• 具体发现:
  • 虽然悲观型对话代理被认为较不可信和不具备能力，并导致较低的情感状态，但却引发了更高的捐赠金额。
  • 信任、能力、亲近感和情境共情的感知显著预测了捐赠行为。
  • 理性推理提升了感知能力，而顺从权威性略微提升了感知善意。
• 相较基线的优势:
  • 揭示了语言表达组合对用户感知和决策的细微影响，展示了劝说的间接路径。
  • 发现了反直觉趋势，例如悲观态度导致更高捐赠。
• 实验/评估:
  • 采用2×2×2因子设计，包含八种对话代理条件。
  • 参与者在对话代理慈善机构与其首选慈善机构之间分配€10。
  • 统计分析包括ANOVA、Kruskal-Wallis检验和线性回归，用于评估效果和交互作用。
• 局限性与未来工作:
  • 单次互动限制了对长期效果的洞察。
  • 虚构慈善机构情境可能降低生态效度。
  • 虚拟捐赠金额（€10）可能无法完全复制真实世界的捐赠行为。
  • 未来研究应探索跨文化影响、纵向研究以及语言表达的组合效应。

总结

本研究探讨了对话代理（CAs）通过语言表达不同个性如何在慈善捐赠情境中影响用户感知和捐赠决策。尽管对话代理个性未直接影响捐赠金额，但悲观型代理通过降低情感状态和信任、能力感知，间接引发了更高的捐赠。理性推理提升了感知能力，而情境共情成为捐赠行为的最强预测因素。这些发现揭示了人工智能驱动劝说中的潜在“情感暗模式”，强调了制定伦理准则和框架以减轻操控机制的必要性。未来研究应探索跨文化和纵向影响，以更好地理解人工智能支持的劝说动态。