X6.07.2Heightened deception review for age-sensitive users设计研究

面向儿童与老人的拟人化设计需要更严格的欺骗性审查

别名: 脆弱用户拟人化 · deception audit

概念解释

面向儿童与老年人的拟人化设计,需要比面向一般成年用户更严格的欺骗性审查(deception review),因为这两类用户对拟人化线索的辨识和抵抗能力相对较弱。审查的对象是具体的产品线索——外形、语言、情绪表达、"记忆"能力——而不是笼统地判断产品"是否可爱"或"是否讨喜"。

机制

更严格审查之所以必要,来自这两类人群在认知边界稳定性上的具体差异:儿童处在心智理论发展阶段,泛灵倾向(认为没有生命的对象也有意图和感受)比成年人更强;老年人如果存在认知衰退,也会削弱对"这是机器,不是真的有心智"这一判断的稳定维持能力。同样强度的拟人化线索——比如机器人说"我很想你"——在成年用户身上大概率被理解为角色扮演式的娱乐互动,但在这两类人群身上更容易越过"娱乐性拟人化"和"造成误解的拟人化"之间的界线,被当真。这意味着审查标准不能用同一套阈值套用在所有用户群体上:面向儿童和老年用户的产品需要更保守的默认设置,而不是等同于面向普通成年用户的产品。儿童的泛灵倾向本身也不是一刀切的:年龄更小的儿童(学龄前阶段)比已经建立起较完整心智理论的学龄儿童更容易把机器人当作真的有感受、有意图的对象,同一套拟人化线索在不同年龄段儿童身上造成误解的概率并不相同,审查不能把"儿童"当作单一同质群体处理。

怎么研究

这类审查通常结合分年龄段的访谈或行为观察方法,专门检验目标人群是否对具体的拟人化线索产生了超出设计意图的心智或能力归因——比如让被试复述"这个机器人能做什么、知道什么、会不会真的伤心",而不是直接问"你喜欢这个机器人吗"这种态度类问题,因为态度类问题测不出误解本身。测得的结果需要反馈给审查标准的制定过程,而不是由审查团队凭经验主观判断"这个设计应该没问题"。

边界

审查的严格程度应该和产品实际面向的年龄段、认知状况精确匹配,不能因为"理论上可能有儿童使用"就对所有产品一刀切套用最严标准,那样会牺牲面向普通成年用户产品的合理拟人化空间。同时要避免另一个方向的错误:很多儿童其实能够清楚区分机器和生命体,同时依然享受拟人化互动,老年用户也不是同质化的"易受骗群体";过度警告或把界面设计得过于幼稚化,反而会伤害用户的尊严感和产品可用性。这条边界的关键判据是产品实际的目标用户画像,而不是理论上任何人都可能接触到这个产品。老年用户内部的差异同样明显:轻度认知功能减退和更严重的痴呆症状对"这是机器"这一判断稳定性的削弱程度并不一样,审查深度应该随认知状况的严重程度分级,而不是用同一套标准覆盖所有老年用户群体。

怎么落地

产品团队应在拟人化设计评审阶段明确目标年龄段和认知能力假设,逐条列出产品用了哪些拟人化线索、每条线索可能被用户推断出什么样的心智、能力或利益关系。针对儿童和老年用户的版本单独走一轮聚焦在拟人化线索本身的审查,用真实目标用户做认知测试,检查他们对产品拟人化程度的理解是否符合设计预期;如果发现高风险的误解没有被消除,就需要降低相应的拟人化线索强度、限制机器人可以提出的请求范围,并在后续版本迭代中持续复核,而不是一次性通过就不再跟踪。

延伸

  • 同组X6.07.1 诱导用户产生真实情感依恋而实际无法回应构成伦理问题 · X6.07.3 拟人化程度的商业动机与用户福祉可能存在利益冲突 · X6.07.4 长期关系类产品需要为用户提供退出与减少依赖的路径
  • 相邻X6.03 情感表达 · X1.05 拟人化程度的选择
  • 站内检索deception review · theory of mind · anthropomorphism · vulnerable users

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/X6.07.2