当我的宠物失去时，人工智能会安慰我吗？理解人工智能中介电子邮件写作的感知

文献标题

Will AI Console Me when I Lose my Pet? Understanding Perceptions of AI-Mediated Email Writing

文献信息

• 主题领域: 人工智能与人机交互、信任感、通信方式
• 关键词: Artificial Intelligence-Mediated Communication (AI-MC), Computer-Mediated Communication (CMC), Artificial Intelligence, 信任, 人际交流, 电子邮件写作, 高度人际强调, 主题熟悉度, 用户体验

研究背景与问题

• 问题与挑战:
  随着大型语言模型可以为用户代写或修改消息，人们对人工智能生成的通信内容的信任度可能会受到影响。然而，大多数接收者可能无法意识到这些消息由人工智能生成。研究关于人们如何看待这些AI生成消息以及其对通信信任的影响的文献和实证证据目前仍然稀缺。该研究关注的问题是AI在代写电子邮件时对接收者信任度的影响，同时探讨电子邮件内容中人际强调程度的作用。

• 重要性:
  随着语言模型技术逐步接近人类写作水平，AI介导的通信正在变得日益普遍。这不仅会影响语言生产和写作习惯，还可能改变彼此间的信任与评价标准。在设计和推广AI写作工具的同时，理解其对信任的影响具有关键意义，有助于指导技术设计和政策制定。

• 研究动机与相关工作:
  研究解决了当前AI系统在语言生成过程所面对的信任问题，例如在事务性电子邮件和高度人际化电子邮件中的信任变化。过去的研究表明，AI生成的短消息或算法推荐可能会影响发送者的被信任程度，但针对长篇电子邮件写作和不同内容情境的研究尚属首次。

解决方案

• 提出的方法与解决方案:
  研究通过结合在线问卷和深度访谈来评估参与者对AI生成的电子邮件信任感。采用“Wizard-of-Oz”实验设计，即所显示的电子邮件实际上均为人类编写，但参与者被告知这些电子邮件分别由人类、人工智能与人协调（共享代理）、或完全由AI生成。

• 创新之处:

  • 提出了基于AI书写感觉的信任变化分析框架。
  • 使用控制实验排除文本质量作为评价因素，专注于参与者对AI介入的定性和定量知觉。
  • 探索了内容中“人际强调程度”的作用，这一变量显著影响了参与者的信任感。

• 实施步骤与技术:

  1. 问卷设计: 提供12封电子邮件，并按内容的人际强调程度分为低、中、高。
  2. 实验变量: 分为AI条件（人类书写、AI辅助、人类与AI协同书写）和人际强调程度（低、中、高）。
  3. 深入访谈: 采集参与者对信任感的具体描述，以及对人工智能书写工具合适场景的见解。
  4. 数据分析: 进行线性回归和方差分析以验证假设。

研究成果

• 具体成果:

  1. 与人工智能相关的邮件越多，信任度呈递减趋势。人类完全书写较受信任，AI完全书写信任度最弱。
  2. 几乎所有人都认为在高度人际化场景中使用AI（如安慰宠物丧失）是不合适的，但量化数据显示，高度人际化的邮件信任度最高。
  3. 参与者主要基于邮件内容的细节和语言风格进行评价，通常忽略邮件书写者的AI参与提示。
  4. 内容熟悉度对信任有显著正向影响，表明熟悉主题的参与者更倾向于信任人工智能或人类编写的消息。

• 与现有解决方案的比较:
  不同于以往关于算法推荐短回复的研究，本研究延伸至长篇写作场景并发现了有关人际强调和信任感的新关联性。

• 实验或评估结果:
  实验显示随着人际强调增加，邮件信任评分上升，但高度AI化条件下信任依然低于人类书写。定量结果验证了主观信任评级的相关性及影响因素。

• 局限性与未来方向:

  • 限制在电子邮件场景中，未来可扩展到即时通信或跨模态通信。
  • 实验设计基于理论上的高质量AI生成文本，建议进一步研究真实语境中的AI生成写作效果。
  • 由于社会背景和文化可能影响对AI的态度，建议扩展研究样本至多元地理和社会环境。