敏感类别的推断需要额外限制
别名: 敏感属性推断 · 特殊类别 · sensitive attributes
概念解释
健康、性取向、宗教、种族、政治观点、生物识别一类属性,一旦被估错或被估对,后果都重于「喜欢爵士还是流行」。受约束的敏感属性推断(constrained sensitive-attribute inference)要求:对这类属性,默认不是「能估就估」,而是禁止、法定例外、或单独的明示同意与用途限制。普通兴趣标签的流程不能原样搬过来。
敏感不是「用户比较在意」,是伤害结构不同:歧视、医疗暴露、家庭内风险。
机制
敏感属性的损失不对称。估对可以用于排斥或定向;估错可以把人送进错误的医疗、招聘、内容池。推荐系统若把敏感标签当普通特征,梯度不会区分这两种损失,只会看见短期点击。因此限制不能靠模型自己学会,必须在特征、用途、保留期上外加闸门。
法律上的「特殊类别」清单(如欧洲数据保护里的特殊类别数据)提供的是类别边界,不是交互方案。交互上还要决定:不采集、采集但不用于排序、用于排序但不得展示、用于安全检测但不得用于营销。每一条都是额外限制,少一条就退回普通兴趣流程。
怎么研究
敏感属性推断的方法是:在受控、经同意的数据集上训练属性分类器,报告对少数类的误差、校准,以及把该特征加入排序后的对待差异(曝光、出价、内容类型)。自变量:是否允许该特征、用途(营销 / 安全 / 无)。因变量:分类误差的分布、排序对待差异、用户在知情后的拒绝率。
没有代表性样本时不要报「我们估不准所以无害」。估不准在尾巴上往往最伤。研究必须按敏感类分层,不能用总体准确率掩盖。
边界
安全检测(未成年保护、自伤危机)有时必须用相关信号,那是单独的用途通道,不能借机喂给广告排序。用户主动填写的敏感字段,限制从「能不能估」转成「能用在哪」。公开创作者身份不是推断。组合非敏感行为推出敏感类,是即使单项都「不敏感」仍可能违规的合成问题,不在这一条的清单定义里展开。
怎么落地
- 维护一份敏感属性清单,默认禁止从行为估计,禁止写入排序特征。要启用必须单独立项:用途、保留、谁能看见。
- 广告与推荐的特征表里做名称扫描,拦截健康、宗教、性取向等字段,包括近义词和代理变量(「母婴」当怀孕代理)。
- 验证:从生产特征存储里抽样,人工标是否属于敏感类或其代理。出现未立项的项,就是普通兴趣流程被原样搬过来了。
延伸
- 同组:L6.06.1 行为推断可能触及未主动披露的信息 · L6.06.2 推断结果的展示本身构成披露 · L6.06.4 非敏感行为的组合可以推出敏感属性,逐项合规不等于整体合规 · L6.06.5 推断结果在共享设备与共享屏幕上会向第三方披露 · L6.06.6 推断错误同样造成伤害,被错误归类者往往无处申诉 · L6.06.7 用户对推断的容忍度取决于场景,同一推断在不同产品中评价不同 · L6.06.8 退出推断与退出数据采集是两件事,应分别提供开关
- 相邻:L6.10 个性化的可关闭与可重置 · L5.05 透明度的适度原则 · L4.06 代理的权限边界
- 站内检索:
constrained sensitive-attribute inference·special category data·sensitive attributes