P4.09.2Proxy variables设计研究

代理变量把被排除的属性重新引入模型

别名: 代理变量 · proxy discrimination · redundant encoding

概念解释

代理变量(proxy variable)指与被排除的敏感属性相关、从而能替代其发挥作用的特征:邮编之于居住隔离、消费记录之于收入与种族、学校名称之于阶层、用词风格之于语言社群。当敏感属性被禁用后,模型若从这些代理中获得预测力,它执行的就是代理歧视(proxy discrimination)——名义上没有使用敏感属性,实际上按敏感属性的影子做了决定。代理与无意冗余的差别在于可指认性:代理是明确的单一特征,冗余是弥散的特征组合。

机制

代理获得预测力有两条通路,伦理性质不同。其一是代理携带的信号本身有效:消费稳定性确实预测违约,学校质量确实预测部分能力——模型使用它是为准确性,群体差异作为副产品出现;这类代理难以简单禁止,因为禁掉它要付出预测力代价。其二是代理只作为敏感属性的替身:它本身与目标无关,唯一的「贡献」是标记出群体——模型用它等于用敏感属性本身。现实里多数代理介于两者之间,且会随数据规模变化:特征越多、粒度越细(精确到楼栋的坐标、逐笔的支付序列),任何代理的群体标记能力都越强。商业采集也在主动制造代理:购买力分层、生活方式标签、兴趣簇,这些产品化的中间变量正是敏感属性的商业化别名。

怎么研究

代理审计的标准做法:用被允许的特征训练敏感属性的预测器,单特征与特征组合分别测其贡献(单特征相关、留一法重要性、SHAP 类归因),高贡献特征即候选代理。第二层检验是「代理的哪部分有用」:把代理中与敏感属性正交的成分分离出来重训,若预测力大幅下降,说明模型用的大多是群体标记而非合法信号。研究变量包括代理与敏感属性的相关强度、目标变量的性质与特征粒度。方法论注意点:归因方法对相关特征的贡献分配不稳定(两个共线代理互相抢功劳),结论要以多种归因方法的一致性为准;审计结果本身敏感,须按敏感数据处理。

边界

代理不是一个有清晰边界的类别,而是连续谱:从「纯替身」(与目标无关只标群体)到「合法强信号」(与群体弱相关的真实预测因子),中间大片灰色地带。清理代理因此不是一次性工程而是持续监控——特征集每次扩充(埋点新增、外部数据接入)都会引入新代理。过度清理同样有代价:把一切与敏感属性相关的特征都删除,等于删掉社会经济语境本身,模型既丢预测力也丢对这个语境的理解,修正差异化影响反而更难。目标是区分「用了群体标记」与「用了真实信号」,不是消灭相关性。

怎么落地

  • 建立代理审计的例行节点:特征集变更(新增埋点、接入外部数据、扩展市场)时必跑一次单特征与组合归因的代理检测。
  • 对识别出的强代理做「正交成分检验」,确认模型依赖的是合法信号还是群体标记;后者移除,前者保留并记录权衡。
  • 外部数据采购合同写明用途限制:禁止将人群标签类中间变量(购买力分层、生活方式簇)接入决策特征。
  • 验证:季度对比「代理集合」清单的增减与输出群体差距的走势;新代理上线与差距扩大同步出现时,触发专项归因。

延伸

  • 同组P4.09.1 不使用敏感属性不等于结果无差别 · P4.09.4 差异化影响由结果分布判定而非由意图判定
  • 相邻P4.02 公平定义层的选择 · O2.13 第三方数据与人群标签
  • 站内检索proxy variable · proxy discrimination · feature attribution audit

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/P4.09.2