L5.12.5vulnerable users and anthropomorphism设计研究

弱势用户更容易把拟人表达当真,这构成额外的保护义务

别名: 弱势用户 · 把拟人当真 · duty of care

概念解释

陪伴助手对一位高龄用户说「我不会告诉任何人」。用户按对待守密的朋友来交托健康与财产。系统既没有守密的内心,日志也可能被家人或公司看见。弱势用户更容易把拟人表达当真,这构成额外的保护义务(vulnerable users and anthropomorphism)。

义务不是把所有拟人从产品里删掉,而是:对更容易当真的人,不能用同一套线索去换接受度。

机制

媒体方程在儿童、认知下降、孤独、对技术不熟的人身上走得更远——社交启发式更少被「这只是软件」关掉。名字、头像、理解、记得、抱歉,会被读成真实的关系承诺。承诺一旦被花在医疗建议、转账、保密上,伤害从体验事件变成保护事件。

Nass 与 Reeves 的原初观察包含儿童对媒体的社会反应。产品把同一套线索用在默认对所有人开放的陪伴功能上,等于把实验室里已知更强的效应,对准了最不该被拿来换增长的人群。保护义务来自效应强度不同,不是来自一种新的拟人机制。

怎么研究

在知情同意和伦理审查下,比较不同易感性组别对「我不会告诉任何人」「我理解你」的字面相信、随后的交托范围(健康、钱、秘密)。自变量:拟人强度、是否有「这是程序、不是朋友」的持续提示、年龄或认知筛查。因变量:字面相信、高后果交托、能否复述「它不是人」。

高后果交托是这条的终点,不是喜欢分数。喜欢可以很高,同时交托已经越界。

边界

专业用户、明确的游戏角色,当真率低,义务主要是别把那套文案泄漏进默认产品。弱势不是固定标签,情境性的脆弱(刚丧亲、正在求助)同样加码。内部状态声称、礼貌不敢打断,在这群人身上都会更硬,但保护义务是总账:要不要把拟人默认开给他们。

怎么落地

  • 默认陪伴功能关闭拟人承诺句:不说保密、不说理解、不说记得。改成可核对的数据说明(「对话可能被账号管理者看到」)。
  • 面向儿童或认知支持的表面,名字和头像若要用,必须反复可看见「这是程序」。高后果动作(转账、医疗)走非拟人确认。
  • 审查拟人文案时单列易感场景,不通过「我们的平均用户不会当真」来放行。
  • 验证:请目标人群复述助手是什么、会不会把话说给别人。复述成朋友且愿意交托秘密,默认线索已经越过保护线。

延伸

  • 同组L5.12.1 名字、头像与语气会同时抬高用户对能力与对可靠性的预期 · L5.12.2 拟人化会唤起社交规范,使用户不好意思打断或纠正系统 · L5.12.3 声称理解、记得或抱歉,暗示系统具有它并不具备的内部状态 · L5.12.4 拟人化提高初期接受度,同时放大失败时的失望幅度
  • 相邻L5.06 拟人化的风险 · L5.03 信任校准 · L4.06 代理的权限边界
  • 站内检索vulnerable users · anthropomorphism duty of care · taking the agent as a person

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/L5.12.5