训练数据的分布决定失败人群
别名: 代表性偏差 · 表征偏差 · training distribution skew
概念解释
代表性偏差（representation bias）指训练数据的人群分布决定模型在哪里可靠、在哪里失败：数据密集的人群得到精细的决策边界，数据稀薄的人群得到粗糙的边界和更高的错误率。失败因此有人口学地理——不是随机散布，而是系统性地压在训练时占比不足的群体上。这层事实意味着：同一个模型可以「总体准确」与「对特定人群接近不可用」同时成立，问题不出在使用环节，出在数据分布被固化的那一刻。
机制
统计学习把容量分配给样本密度高的区域：损失由样本量加权，占人口少数的群体对模型的塑造力小，其特征空间中的边界被迫借用多数群体的模式。当群体间特征分布确有差异（肤色与光照的交互、口音、书写习惯、设备低端化），借来的边界在这些区域失效，错误集中爆发。更隐蔽的是优势群体还能「偷走」基准：性能测试集若与训练集同源，同样偏斜，测试根本暴露不了薄弱区——错误人群在评估里也代表性不足，形成训练与评估的双重遮蔽。
怎么研究
标准做法是分人群的性能审计：按预先定义的人群维度拆分测试集，分别计算错误率。有影响的研究曾对商用面部分析系统做此审计，发现按性别与肤色类型分层后错误率差距可达数十个百分点，而厂商报告的总体精度完全掩盖了这一点。变量包括各人群样本量、人群间基础比率差、特征分布重叠度。方法论注意点：分层维度本身受限于可获得的属性数据，而敏感属性常缺位，研究者常以代理变量（姓名、邮编、自报类别）替代，代理的错分会在差距估计里引入噪声；小群体的错误率置信区间宽，差距要附不确定度而不是单点比较。
边界
分布决定失败的前提是「用数据学出来的系统」：规则系统、人工决策不由此机制产生偏差（尽管决策者有各自的偏置，机制不同）。数据更多也未必自动更好——若增量仍流向多数群体，分布的稀疏区不变，扩量只提高总体指标。反过来的极端也存在：刻意过采少数群体到失衡程度会损害多数群体性能并可能过拟合小样本，修正的目标是让评估可见、采集有针对性，而非机械配平。
怎么落地
- 建立数据集文档：记录采集时间、渠道、地理与设备来源，以及已知的人群覆盖缺口；缺口未补齐前禁止将模型用于对应人群。
- 针对薄弱人群做定向采集（换渠道、换设备、换语言），而不是在原渠道加量。
- 性能报告强制分人群呈现，总体精度只作参考行；发布评审以最差人群的错误率为准。
- 验证：上线后按人群维度持续抽样复核错误率，实际差距超过训练时估计的幅度即回滚或限制使用范围。