L5.08.2actionable counterfactual设计研究

只有当被指出的输入是用户可改变的时,解释才具有可行动性

别名: 可行动反事实 · 不可改的输入 · mutable features

概念解释

「若你再年轻十岁,这次会过。」模型上这句话可以是真的:年龄是最近的翻盘方向。申请人改不了年龄。反事实只有在指出的输入是用户可改变的时,才具有可行动性(actionable counterfactual)。不可改的「若」是一句正确的空话。

可行动性不是真实性。真而不便,仍然不能变成下一步。

机制

生成反事实的算法通常最小化距离,距离不管变量在生活里能不能动。年龄、族裔代理、历史违约一旦发生,都是短距离上的好方向,也是生活里的死方向。用户面对死方向,要么放弃行动,要么去改不该改的项(伪造年龄)。说明在数学上完成了,在程序上没有给出动作。

可改变还分「法律上能改」和「这一次流程里来得及改」。学历能改,但赶不上这轮窗口,对这一次仍然不可行动。行动性必须钉在当前流程,不是钉在人生尺度。

怎么研究

同一模型生成两组反事实:不限可变性的最近翻盘,与只在可变字段上的翻盘。看人下一步改什么、改得成不成、以及是否去动不可变项。自变量:可变字段集合如何定义、是否标明「此项改不了」。因变量:提交的修改里可变项占比、对不可变项的尝试、放弃率。

可变集合必须由领域给定,不能让算法自己猜。猜错则整组实验在测错误的行动性。

边界

有的用户能改别人改不了的项(公司申请人能改注册地址,个人不能)。行动性随角色变,要用角色定义可变集。用户若只想理解「系统对什么敏感」,不可变反事实仍有认识价值,但那不是行动,界面不能标成「你可以这样做」。多组反事实里挑哪一组,是下一步的选择问题。

怎么落地

  • 生成时加可变约束:只在用户这一次能改的字段上找翻盘。找不到就说「没有你现在能做的改动」,不要退回年龄。
  • 列出的每一项标「可在本次补充 / 不可改」。不可改的项若仍展示,只能作为限度,不能作为建议。
  • 拒绝把历史身份类变量写进「若你…」的建议句。
  • 验证:按说明去改的人,改的是否都是本次流程接受的字段。出现年龄、性别、已发生的违约,行动性在说谎。

延伸

  • 同组L5.08.1 反事实解释说明改变哪些输入会改变结果 · L5.08.3 同一结果存在多组反事实,选择呈现哪一组本身带有价值判断 · L5.08.4 反事实解释会泄露决策规则,从而可能被用于规避 · L5.08.5 反事实成立的前提是其他条件保持不变,实际中很少满足
  • 相邻L5.05 透明度的适度原则 · L5.02 局部解释与全局解释 · L5.01 可解释性的类型
  • 站内检索actionable counterfactual · mutable features · recourse

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/L5.08.2