L5.08.5ceteris paribus of counterfactuals设计研究
反事实成立的前提是其他条件保持不变,实际中很少满足
别名: 其他条件不变 · 反事实前提 · ceteris paribus
概念解释
「若收入提高四千会过」,在模型里通常指:只改收入这一格,别的格子原样。人真去加薪,负债比、居住成本、工作年限往往一起动。反事实成立的前提是其他条件保持不变,实际里很少满足(ceteris paribus of counterfactuals)。说明在切片世界里为真,在生活世界里不必为真。
用户按生活去改,对不上切片,会体验成系统出尔反尔。
机制
生成器在输入向量上动最少的坐标。坐标在训练里被当成可独立赋值,生活里它们相关。收入上升拉高房租,房租进另一格,输出走的不是「只加收入」那条路径。Wachter 式最近改动明确依赖这一独立赋值;依赖不说出来时,用户会把切片上的「若」当成生活承诺。
还有时间。反事实是当下模型、当下其他字段上的。等用户改完再来,模型可能已换、其他字段可能已变。承诺的时效比句子看起来的短。
怎么研究
把反事实给出的改动放到「只改该格」和「按生活相关一起改」两种模拟里,看翻盘是否还在。再让人按自己的理解去改一份材料。自变量:字段相关强度、是否声明「仅当其他项不变」、两次申请之间是否换模型。因变量:两种模拟的翻盘一致率、用户改完后的实际结果、感到被骗的比例。
一致率低而用户仍按单格承诺行动,就是这条在产品里发生。
边界
字段接近独立(实验室里的合成表、或用户真能只改一格的表单)时,前提近似成立。交互式探路(拖动一格、立刻看到输出,并能看见其他格被连带改写)可以把前提变成可见约束。规避者若只改报表上的一格、生活其他项不动,前提对他们反而成立——那是切片与生活再次错位,方向相反。
怎么落地
- 写清前提:「以下仅在其他填写项保持不变、且仍是当前版本时成立。」不要把「若」写成无条件承诺。
- 能估计连带变化时,给一条「若收入与房租按常见比例一起变,结果可能仍是拒绝」。
- 反事实标注生成时间与模型版本;过期或版本变更后收回或重算。
- 验证:找几份按说明改过、但同时改了相关项的真实再申请。结果与「只改一格」的承诺不符,就把前提写进界面;仍有人当无条件,文案还不够硬。