越界了吗？对话代理中拟人化设计的悖论

DOI

自对话代理（CA）早期开发以来，拟人化一直是核心设计焦点。大量研究强调了更拟人化的CA的好处，包括用户体验、参与度和信任的提升。因此，研究人员提出了设计接近人类交流风格的CA的指南。然而，越来越多研究反对过度拟人化，理由是担心设定不切实际的期望、促进过度信任和 enable 操纵。为减轻这些风险，一些研究人员主张选择明显区分CA与人类的设计，如使用合成声音或机器人视觉表现来表明其人工性质。这篇 provocation 论文探讨了这两个观点之间的悖论。让CA以拟人化方式交互的行为是否本质上与保持其人工性质透明的努力相矛盾？我们邀请讨论这一矛盾对CA设计未来的影响。