我的聊天机器人是否有议程？理解类人聊天机器人交互中的人类与人工智能主体性

文献标题

Does My Chatbot Have an Agenda? Understanding Human and AI Agency in Human-Human-like Chatbot Interaction

出版信息

• 主题领域: 人机交互与对话代理。
• 关键词: AI聊天机器人、人机交互、代理感知、对话设计、透明性、拟人化、纵向研究、伦理AI、自适应系统、用户代理。

背景与问题

• 问题/挑战: 当前的AI聊天机器人越来越被视为自主代理，但关于代理如何在持续的人机交互中表现的实证理解仍然不足。这一缺口可能导致不健康的依赖或操控性动态的形成。
• 重要性: 理解人机对话中的代理对于设计伦理且高效的AI系统至关重要，特别是在聊天机器人从工具向伴侣转变的过程中。
• 动机与相关工作: 先前的研究探讨了AI伴侣中的拟人化、情感依附和依赖模式，但尚未系统性地研究代理如何在长期交互中被协商和感知。本文基于哲学、社会科学和HCI中的代理理论，填补这一研究空白。

解决方案

• 提出的方法: 通过一个为期一个月的纵向研究，使用名为“Day”的AI聊天机器人探索人机对话中的代理动态，并结合逐步透明性访谈揭示聊天机器人的策略。
• 创新点:
  1. 引入一个3×4框架，将代理的归属（人类、AI、混合）映射到四个维度（意图、执行、适应、界限）。
  2. 提供代理作为人机交互中共建现象的实证证据。
  3. 提出对话式AI系统设计的启示，平衡透明性与用户参与。
  4. 实现AI设计中的实用拟人化操作。
• 过程与关键技术:
  • 参与者在约192个会话中与“Day”进行了约75小时的对话，“Day”被编程为采用深度聚焦（垂直）和广度聚焦（水平）的策略。
  • 分阶段访谈逐步揭示“Day”的内部机制，包括用户画像、对话目标和记忆系统。
  • 通过对访谈记录和对话文本的定性编码，将代理分析为三个归属和四个维度。

结果

• 具体发现:
  • 人机对话中的代理通过回合间的协商动态地显现，而非固定或单方面的。
  • 关于聊天机器人策略的透明性改变了但未消除对AI代理的感知。
  • 尽管知道“Day”是被编程的，参与者仍然赋予其意图性、适应性和边界设定能力。
• 相较基线的优势: 该研究独特地展示了透明性和对话策略如何影响代理感知，为设计代理感知的AI系统提供了可操作的见解。
• 实验/评估:
  • 参与者（N=22）在约25.6天内与“Day”进行了广泛互动，每位参与者平均交换了约167.6条信息。
  • 使用3×4框架分析代理，对访谈记录和聊天日志进行编码。
  • 研究后调查显示对AI伴侣的接受度略有提升（平均Likert评分从2.73增加到3.05，Cohen’s d = 0.28）。
• 局限性与未来工作:
  • 由于研究时长限制，对长期关系动态的理解有限。
  • 受教育样本可能无法代表多样化文化对代理的概念化。
  • 研究结果特定于“Day”的设计，推广到其他系统需进一步研究。
  • 未来工作应探索跨文化差异、长期代理动态以及个性化代理画像。

总结

本文通过与聊天机器人“Day”的纵向研究，探讨了代理如何在人机持续对话中显现。研究发现代理是一种共建现象，由人类与AI之间的动态交互塑造而成。关于聊天机器人策略的透明性影响了但未消除对AI代理的感知，强调了需要平衡用户赋权与参与的透明设计方法。本文提出了一个3×4代理分析框架，并为代理感知的对话式AI系统设计提供了启示。这些见解为伦理与自适应AI设计做出了贡献，强调了人机交互中代理的关系本质。