L5.08.3choice among counterfactuals设计研究
同一结果存在多组反事实,选择呈现哪一组本身带有价值判断
别名: 多组反事实 · 呈现哪一组 · which recourse to show
概念解释
这次拒贷,翻盘路径至少三条:提高收入、换邮编、去掉一张信用卡。三条在模型上都走得通。界面只亮其中一条,等于在替用户选一种生活。同一结果有多组反事实,选哪一组来呈现,本身是价值判断(choice among counterfactuals)。
算法的「最近」不是中立。近,是某一种距离;距离里已经埋了什么算便宜、什么算贵。
机制
到另一侧的路径是一个集合,不是一个点。生成器要在集合里挑,挑的标准(L1、可改字段、看起来体面)把某些人的可行之路藏起来,把另一些人的路摆到台面上。被摆上台面的路会被当成「系统要你做的事」。换邮编若被选中,用户会以为系统在赶人搬家,哪怕提高收入同样够。
Wachter 式最近邻若以欧氏距离为准,数值小的改动赢。数值小不等于伦理上便宜:改一个敏感代理可能比改收入「更近」,也更不该被建议。选择因此无法外包给「数学上最近」而不作声。
怎么研究
对同一拒件枚举多组可行反事实,随机只展示其中一组,或展示一组并标明「还有别的路」。看人选择的补救、对系统意图的推断、以及是否觉得被指定了一种生活。自变量:展示策略、距离度量、是否披露备选。因变量:补救类型、意图推断、公平感。
要有一组对照:把全部可行路摊开(在条数可扫视的前提下)。摊开之后意图推断是否下降,是这条的核心差。
边界
有时可行反事实只有一组,选择不发生。条数多到无法扫视时,摊开会变成噪声,仍必须挑,但挑的标准要写出来。用户若能自己探路(拖动字段看输出),呈现哪一组的权力部分交还,这条变弱。规避风险是另一条:这里只管选择带价值,不管被拿去钻空子。
怎么落地
- 不要只甩「最近」一条而不说它是被选中的。能给两条以上时,给不同方向(收入 / 负债),并写「都可能翻盘,选哪条是你的决定」。
- 把距离度量里排除的字段(敏感代理)写进生成约束,不要事后指望用户自己不走那条。
- 评审时问:为什么亮这条而不是那条。答不上来,价值判断在暗箱里。
- 验证:同一拒件给不同反事实,看用户对「系统想让我怎样」的答案是否跟着变。跟着变,呈现选择已经在替他们过生活。