“我们忽视她后我感到内疚”：理解界面驱动的社会显著性如何塑造与生成式AI的群体讨论

文献标题

“I Felt Bad After We Ignored Her”: Understanding How Interface-Driven Social Prominence Shapes Group Discussions with GenAI

出版信息

• 主题领域: 人工智能与人类协作在小组讨论中的应用
• 关键词: 生成式人工智能, 社会显著性, 小组讨论, 界面设计, 人机协作, 主动式人工智能, 基于语音的交互, 认知警觉, 用户控制, 代理影响

背景与问题

• 问题/挑战: 尽管生成式人工智能（GenAI）在小组讨论中的参与能力取得了进展，但对于界面设计如何影响其在协作环境中的作用和影响的理解仍然有限。
• 重要性: 理解这些动态对于设计能够增强小组问题解决能力而不破坏团队凝聚力或导致人工智能过度影响的系统至关重要。
• 动机与相关工作: 先前的研究探讨了生成式人工智能在头脑风暴和决策中的辅助作用，但主要集中在其被动贡献上。关于主动式人工智能参与，特别是在基于语音的实时讨论中的研究仍处于起步阶段。此外，现有研究缺乏对界面设计如何影响人机小组动态的深入洞察。

解决方案

• 提出的方法: 本研究引入了“界面驱动的社会显著性”作为设计视角，以探索生成式人工智能的存在感和用户控制如何塑造小组讨论。设计了三种协作模式（圆桌模式、外围模式、分组模式）以改变这些维度。
• 创新点:
  1. 提出了“界面驱动的社会显著性”作为设计协作型生成式人工智能系统的框架。
  2. 开发了一种能够主动参与实时讨论的基于语音的生成式人工智能代理。
  3. 通过混合方法研究提供了界面设计如何影响沟通模式、感知以及对生成式人工智能影响的调控的实证证据。
  4. 确定了集体边界调控是人机小组中的关键协调机制。
• 研究过程与关键技术:
  1. 开发了一个定制的视频会议平台，配备名为Lisa的主动式生成式人工智能代理。
  2. 设计了三种协作模式：圆桌模式（高代理存在感、低用户控制）、外围模式（中等存在感、中等控制）、分组模式（低存在感、高控制）。
  3. 进行了包含18对参与者（36人）的混合方法组内实验，涉及三种模式下的三个讨论任务。
  4. 数据收集包括视频编码、有序网络分析（ONA）、定性反馈和问卷调查。

结果

• 具体发现:
  • 圆桌模式促进了合作行为，但由于社会规范导致代理影响增加。
  • 外围模式允许有意的参与，但往往难以将代理移出共享空间。
  • 分组模式支持对代理贡献的策略性筛选，但鼓励了竞争行为并减少了批判性评估。
  • 在圆桌和外围模式中，偏好更强的参与者表现出比分组模式更高的认知警觉。
• 相较基线的优势:
  • 研究表明，界面设计可以缓解生成式人工智能在单人使用中常见的说服风险和参与度下降问题。
  • 与生成式人工智能的共享互动促进了批判性评估和合作行为，这在单用户环境中未观察到。
• 实验/评估:
  • 参与者在三种模式下与生成式人工智能代理完成了三个讨论任务（头脑风暴、决策、优先级排序）。
  • 数据分析包括话语分析、有序网络分析、定性编码和问卷指标（如NASA-TLX、认知警觉、社会惰性）。
• 局限性与未来工作:
  • 由于设计选择的捆绑性，难以单独隔离代理存在感与用户控制的影响。
  • 结果可能无法推广到更大规模的小组或异步环境。
  • 未来研究应探索多代理生态系统、长期交互以及围绕生成式人工智能的新兴社会规范。

总结

本研究探讨了界面驱动的社会显著性如何塑造生成式人工智能代理在人与人工智能小组讨论中的角色和影响。通过在三种协作模式中改变代理存在感和用户控制，研究揭示了界面设计对沟通模式、小组动态以及生成式人工智能贡献调控的深远影响。研究结果表明，与生成式人工智能的共享互动可以增强批判性评估和合作，但也可能引入过度影响和竞争行为的风险。研究强调了通过精心设计界面来平衡生成式人工智能优势与协作边界调控和人类自主性机制的重要性。