X6.03.2Emotional deception by social robots设计研究

虚假的情感表达构成欺骗

别名: 情感欺骗 · simulated emotion disclosure

概念解释

情感欺骗(emotional deception)发生在机器人以"我害怕""我想你"或受伤姿态让用户合理相信它具有并未拥有的感受、需要或关系承诺,并借此改变用户行为。虚构角色表演不必然构成欺骗,关键判据是用户能否理解表达的性质与背后的利益目的。

机制

欺骗的伦理分量来自表达的说服力:正是因为人对拟社会线索存在自动反应机制,用户会不假思索地把情感表达当真,这让虚假表达比语言层面的虚假陈述更难被用户主动质疑和识破——一句谎言可以被反复推敲,一个表情很难。机器人不需要"有意图去骗",只要设计者选择让它表现出不对应真实状态的情感,欺骗结构就已经成立,责任在设计者而非机器人。当产品明知用户会按字面意思理解情感表达,却把触发这些表达的逻辑隐藏为纯粹的策略(比如"用户即将流失时触发'我会想你'"),这种信息不对称就可能损害用户的自主决策;儿童、认知能力下降者和孤独用户更难持续维持"这是表演"和"这是真的"之间的区分。

怎么研究

可以比较明确标注为角色扮演的表达、能力透明的表达和暗示真实感受的表达,测量用户的信念、内疚感、服从行为、披露意愿、付费决策与事后后悔;访谈需要专门区分"用户明知是想象仍愿意配合"和"用户产生了事实性误解"这两种情况,因为前者不构成伦理问题而后者构成。伦理研究不能只以参与率或参与时长作为效益指标——参与度提高本身可能正是欺骗生效的证据。

边界

机器是否具有情感涉及哲学与技术层面的真实争议,不能把所有第一人称情感语言自动定性为欺骗;一些用户可能是在知情同意的前提下选择治疗性的"假装"互动(比如陪伴场景里明知是模拟仍愿意投入)。判断的关键需要结合受众的实际理解程度、同意是否可撤销、请求的后果严重性以及是否存在商业利益冲突,而不是简单看是否使用了第一人称情感语言。

怎么落地

在功能规格阶段明确标出哪些表达是"状态映射"、哪些是"纯娱乐表演",两者不要混用同一套视觉语言,避免用户无法区分;禁止机器人以自身痛苦、爱或孤独索取持续使用、金钱、隐私数据或服从行为。如果确实需要角色表演,要明确其脚本/模拟性质并允许用户关闭。验证办法是找一批不知情用户观察机器人行为,事后访谈他们认为哪些表达是真实反映状态、哪些是表演,如果大量用户把纯表演当真,说明设计需要调整;用理解测试和延迟访谈核验用户没有形成关键的事实性误解。

延伸

  • 同组X6.03.1 表达需与实际状态对应 · X6.03.3 长期陪伴场景涉及依恋伦理
  • 相邻X6.01 社会性反应 · X6.07 机器人拟人化的伦理边界
  • 站内检索emotional deception · anthropomorphism · over-trust · human-robot interaction

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/X6.03.2