虚假的情感表达构成欺骗
别名: 情感欺骗 · simulated emotion disclosure
概念解释
情感欺骗(emotional deception)发生在机器人以"我害怕""我想你"或受伤姿态让用户合理相信它具有并未拥有的感受、需要或关系承诺,并借此改变用户行为。虚构角色表演不必然构成欺骗,关键判据是用户能否理解表达的性质与背后的利益目的。
机制
欺骗的伦理分量来自表达的说服力:正是因为人对拟社会线索存在自动反应机制,用户会不假思索地把情感表达当真,这让虚假表达比语言层面的虚假陈述更难被用户主动质疑和识破——一句谎言可以被反复推敲,一个表情很难。机器人不需要"有意图去骗",只要设计者选择让它表现出不对应真实状态的情感,欺骗结构就已经成立,责任在设计者而非机器人。当产品明知用户会按字面意思理解情感表达,却把触发这些表达的逻辑隐藏为纯粹的策略(比如"用户即将流失时触发'我会想你'"),这种信息不对称就可能损害用户的自主决策;儿童、认知能力下降者和孤独用户更难持续维持"这是表演"和"这是真的"之间的区分。
怎么研究
可以比较明确标注为角色扮演的表达、能力透明的表达和暗示真实感受的表达,测量用户的信念、内疚感、服从行为、披露意愿、付费决策与事后后悔;访谈需要专门区分"用户明知是想象仍愿意配合"和"用户产生了事实性误解"这两种情况,因为前者不构成伦理问题而后者构成。伦理研究不能只以参与率或参与时长作为效益指标——参与度提高本身可能正是欺骗生效的证据。
边界
机器是否具有情感涉及哲学与技术层面的真实争议,不能把所有第一人称情感语言自动定性为欺骗;一些用户可能是在知情同意的前提下选择治疗性的"假装"互动(比如陪伴场景里明知是模拟仍愿意投入)。判断的关键需要结合受众的实际理解程度、同意是否可撤销、请求的后果严重性以及是否存在商业利益冲突,而不是简单看是否使用了第一人称情感语言。
怎么落地
在功能规格阶段明确标出哪些表达是"状态映射"、哪些是"纯娱乐表演",两者不要混用同一套视觉语言,避免用户无法区分;禁止机器人以自身痛苦、爱或孤独索取持续使用、金钱、隐私数据或服从行为。如果确实需要角色表演,要明确其脚本/模拟性质并允许用户关闭。验证办法是找一批不知情用户观察机器人行为,事后访谈他们认为哪些表达是真实反映状态、哪些是表演,如果大量用户把纯表演当真,说明设计需要调整;用理解测试和延迟访谈核验用户没有形成关键的事实性误解。