透过镜子：AI介导的视频通信削弱信任与判断信心

文献标题

Through the Looking-Glass: AI-Mediated Video Communication Reduces Trust and Confidence in Judgement

出版信息

• 主题领域: AI介导的视频通信对信任、判断准确性和信心的影响。
• 关键词: AI介导通信、视频美化、虚拟化身、信任、欺骗检测、判断信心、期望违背、不确定性减少、人机交互。

背景与问题

• 问题/挑战: AI介导的视频工具（如美化、背景替换和虚拟化身）可能改变人们在在线交流中对可信度、可靠性和诚实性的评估。现有研究尚未明确这些工具如何影响欺骗检测、信任和判断信心。
• 重要性: 理解这些影响对于设计值得信赖的AI工具至关重要，尤其是在招聘、法律程序和远程医疗等信任和信心至关重要的高风险场景中。
• 动机与相关研究: 先前关于计算机介导通信（CMC）和AI介导通信（AI-MC）的研究表明，减少或改变的人际线索可能削弱信任并使印象形成复杂化。然而，日常AI介导视频工具对欺骗检测和人际评估的影响，特别是在动态视频场景中的影响，仍未被充分探索。

解决方案

• 提出的方法: 本研究探讨了不同程度的AI介导视频通信（原始视频、弱介导[美化和虚拟背景]、强介导[虚拟化身]）如何影响信任、欺骗检测准确性和判断信心。
• 创新点:
  1. 探讨日常AI介导视频工具（如美化、虚拟化身）对信任和信心的影响。
  2. 在同质（单一介导类型）和混合（多种介导类型）环境中测试这些影响。
  3. 探索AI介导下线索依赖的转变（例如，从非语言线索转向基于内容的线索）。
  4. 提供实证证据，挑战基于线索的欺骗检测理论。
• 实验流程与关键技术:
  • 进行了两项在线实验（N = 2,000），使用事先录制的真实和欺骗性陈述视频。
  • 视频被处理为三种条件：原始、弱AI介导和强AI介导。
  • 参与者在观看每段视频后评估可信度、真实性和信心。
  • 统计分析采用线性混合效应模型评估AI介导和环境类型的影响。

结果

• 具体发现:
  • 在AI介导条件下，尤其是虚拟化身（强介导）和混合环境中，对讲话者的信任度下降。
  • 判断准确性（52–54%）在所有介导类型中保持稳定，与先前关于欺骗检测接近随机准确性的研究结果一致。
  • 在混合环境中，特别是针对虚拟化身介导的视频，判断信心显著下降。
  • 在评估AI介导视频时，参与者从依赖非语言线索（如目光、表情）转向依赖基于内容的线索（如故事一致性、流畅性）。
• 相较基线的优势:
  • 显示AI介导视频不会削弱欺骗检测的准确性，但会降低信任和信心，尤其是在混合环境中。
  • 通过显示尽管非语言线索减少但准确性仍然稳定，挑战了基于线索的欺骗检测理论。
• 实验/评估:
  • 实验1：单一介导类型的同质环境。
  • 实验2：参与者接触不同介导类型的混合环境。
  • 指标：信任评分、真实性判断率、判断准确性和信心水平。
  • 数据集：迈阿密大学欺骗检测数据库（MU3D）。
• 局限性与未来工作:
  • 低风险实验环境可能无法推广到高风险场景。
  • 结果可能在实时互动视频场景或与熟悉的参与者互动时有所不同。
  • 未来研究应探索高风险场景、长期影响和跨文化差异。

总结

本研究探讨了AI介导视频通信对信任、欺骗检测准确性和判断信心的影响。尽管AI介导未影响准确性或真实性判断率，但降低了信任和信心，特别是在混合环境中针对虚拟化身介导的视频。参与者在AI介导下从依赖非语言线索转向依赖基于内容的线索。这些发现强调了上下文敏感AI工具的必要性，并对介导通信中信任的削弱提出了担忧，尤其是在高风险或混合环境中。