L5.08.5ceteris paribus of counterfactuals设计研究

反事实成立的前提是其他条件保持不变,实际中很少满足

别名: 其他条件不变 · 反事实前提 · ceteris paribus

概念解释

「若收入提高四千会过」,在模型里通常指:只改收入这一格,别的格子原样。人真去加薪,负债比、居住成本、工作年限往往一起动。反事实成立的前提是其他条件保持不变,实际里很少满足(ceteris paribus of counterfactuals)。说明在切片世界里为真,在生活世界里不必为真。

用户按生活去改,对不上切片,会体验成系统出尔反尔。

机制

生成器在输入向量上动最少的坐标。坐标在训练里被当成可独立赋值,生活里它们相关。收入上升拉高房租,房租进另一格,输出走的不是「只加收入」那条路径。Wachter 式最近改动明确依赖这一独立赋值;依赖不说出来时,用户会把切片上的「若」当成生活承诺。

还有时间。反事实是当下模型、当下其他字段上的。等用户改完再来,模型可能已换、其他字段可能已变。承诺的时效比句子看起来的短。

怎么研究

把反事实给出的改动放到「只改该格」和「按生活相关一起改」两种模拟里,看翻盘是否还在。再让人按自己的理解去改一份材料。自变量:字段相关强度、是否声明「仅当其他项不变」、两次申请之间是否换模型。因变量:两种模拟的翻盘一致率、用户改完后的实际结果、感到被骗的比例。

一致率低而用户仍按单格承诺行动,就是这条在产品里发生。

边界

字段接近独立(实验室里的合成表、或用户真能只改一格的表单)时,前提近似成立。交互式探路(拖动一格、立刻看到输出,并能看见其他格被连带改写)可以把前提变成可见约束。规避者若只改报表上的一格、生活其他项不动,前提对他们反而成立——那是切片与生活再次错位,方向相反。

怎么落地

  • 写清前提:「以下仅在其他填写项保持不变、且仍是当前版本时成立。」不要把「若」写成无条件承诺。
  • 能估计连带变化时,给一条「若收入与房租按常见比例一起变,结果可能仍是拒绝」。
  • 反事实标注生成时间与模型版本;过期或版本变更后收回或重算。
  • 验证:找几份按说明改过、但同时改了相关项的真实再申请。结果与「只改一格」的承诺不符,就把前提写进界面;仍有人当无条件,文案还不够硬。

延伸

  • 同组L5.08.1 反事实解释说明改变哪些输入会改变结果 · L5.08.2 只有当被指出的输入是用户可改变的时,解释才具有可行动性 · L5.08.3 同一结果存在多组反事实,选择呈现哪一组本身带有价值判断 · L5.08.4 反事实解释会泄露决策规则,从而可能被用于规避
  • 相邻L5.02 局部解释与全局解释 · L5.01 可解释性的类型 · L5.05 透明度的适度原则
  • 站内检索ceteris paribus · counterfactual assumptions · feature dependence

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/L5.08.5