L5.12.5vulnerable users and anthropomorphism设计研究
弱势用户更容易把拟人表达当真,这构成额外的保护义务
别名: 弱势用户 · 把拟人当真 · duty of care
概念解释
陪伴助手对一位高龄用户说「我不会告诉任何人」。用户按对待守密的朋友来交托健康与财产。系统既没有守密的内心,日志也可能被家人或公司看见。弱势用户更容易把拟人表达当真,这构成额外的保护义务(vulnerable users and anthropomorphism)。
义务不是把所有拟人从产品里删掉,而是:对更容易当真的人,不能用同一套线索去换接受度。
机制
媒体方程在儿童、认知下降、孤独、对技术不熟的人身上走得更远——社交启发式更少被「这只是软件」关掉。名字、头像、理解、记得、抱歉,会被读成真实的关系承诺。承诺一旦被花在医疗建议、转账、保密上,伤害从体验事件变成保护事件。
Nass 与 Reeves 的原初观察包含儿童对媒体的社会反应。产品把同一套线索用在默认对所有人开放的陪伴功能上,等于把实验室里已知更强的效应,对准了最不该被拿来换增长的人群。保护义务来自效应强度不同,不是来自一种新的拟人机制。
怎么研究
在知情同意和伦理审查下,比较不同易感性组别对「我不会告诉任何人」「我理解你」的字面相信、随后的交托范围(健康、钱、秘密)。自变量:拟人强度、是否有「这是程序、不是朋友」的持续提示、年龄或认知筛查。因变量:字面相信、高后果交托、能否复述「它不是人」。
高后果交托是这条的终点,不是喜欢分数。喜欢可以很高,同时交托已经越界。
边界
专业用户、明确的游戏角色,当真率低,义务主要是别把那套文案泄漏进默认产品。弱势不是固定标签,情境性的脆弱(刚丧亲、正在求助)同样加码。内部状态声称、礼貌不敢打断,在这群人身上都会更硬,但保护义务是总账:要不要把拟人默认开给他们。
怎么落地
- 默认陪伴功能关闭拟人承诺句:不说保密、不说理解、不说记得。改成可核对的数据说明(「对话可能被账号管理者看到」)。
- 面向儿童或认知支持的表面,名字和头像若要用,必须反复可看见「这是程序」。高后果动作(转账、医疗)走非拟人确认。
- 审查拟人文案时单列易感场景,不通过「我们的平均用户不会当真」来放行。
- 验证:请目标人群复述助手是什么、会不会把话说给别人。复述成朋友且愿意交托秘密,默认线索已经越过保护线。