L5.08.2actionable counterfactual设计研究
只有当被指出的输入是用户可改变的时,解释才具有可行动性
别名: 可行动反事实 · 不可改的输入 · mutable features
概念解释
「若你再年轻十岁,这次会过。」模型上这句话可以是真的:年龄是最近的翻盘方向。申请人改不了年龄。反事实只有在指出的输入是用户可改变的时,才具有可行动性(actionable counterfactual)。不可改的「若」是一句正确的空话。
可行动性不是真实性。真而不便,仍然不能变成下一步。
机制
生成反事实的算法通常最小化距离,距离不管变量在生活里能不能动。年龄、族裔代理、历史违约一旦发生,都是短距离上的好方向,也是生活里的死方向。用户面对死方向,要么放弃行动,要么去改不该改的项(伪造年龄)。说明在数学上完成了,在程序上没有给出动作。
可改变还分「法律上能改」和「这一次流程里来得及改」。学历能改,但赶不上这轮窗口,对这一次仍然不可行动。行动性必须钉在当前流程,不是钉在人生尺度。
怎么研究
同一模型生成两组反事实:不限可变性的最近翻盘,与只在可变字段上的翻盘。看人下一步改什么、改得成不成、以及是否去动不可变项。自变量:可变字段集合如何定义、是否标明「此项改不了」。因变量:提交的修改里可变项占比、对不可变项的尝试、放弃率。
可变集合必须由领域给定,不能让算法自己猜。猜错则整组实验在测错误的行动性。
边界
有的用户能改别人改不了的项(公司申请人能改注册地址,个人不能)。行动性随角色变,要用角色定义可变集。用户若只想理解「系统对什么敏感」,不可变反事实仍有认识价值,但那不是行动,界面不能标成「你可以这样做」。多组反事实里挑哪一组,是下一步的选择问题。
怎么落地
- 生成时加可变约束:只在用户这一次能改的字段上找翻盘。找不到就说「没有你现在能做的改动」,不要退回年龄。
- 列出的每一项标「可在本次补充 / 不可改」。不可改的项若仍展示,只能作为限度,不能作为建议。
- 拒绝把历史身份类变量写进「若你…」的建议句。
- 验证:按说明去改的人,改的是否都是本次流程接受的字段。出现年龄、性别、已发生的违约,行动性在说谎。