L6.06.3constrained sensitive-attribute inference设计研究

敏感类别的推断需要额外限制

别名: 敏感属性推断 · 特殊类别 · sensitive attributes

概念解释

健康、性取向、宗教、种族、政治观点、生物识别一类属性,一旦被估错或被估对,后果都重于「喜欢爵士还是流行」。受约束的敏感属性推断(constrained sensitive-attribute inference)要求:对这类属性,默认不是「能估就估」,而是禁止、法定例外、或单独的明示同意与用途限制。普通兴趣标签的流程不能原样搬过来。

敏感不是「用户比较在意」,是伤害结构不同:歧视、医疗暴露、家庭内风险。

机制

敏感属性的损失不对称。估对可以用于排斥或定向;估错可以把人送进错误的医疗、招聘、内容池。推荐系统若把敏感标签当普通特征,梯度不会区分这两种损失,只会看见短期点击。因此限制不能靠模型自己学会,必须在特征、用途、保留期上外加闸门。

法律上的「特殊类别」清单(如欧洲数据保护里的特殊类别数据)提供的是类别边界,不是交互方案。交互上还要决定:不采集、采集但不用于排序、用于排序但不得展示、用于安全检测但不得用于营销。每一条都是额外限制,少一条就退回普通兴趣流程。

怎么研究

敏感属性推断的方法是:在受控、经同意的数据集上训练属性分类器,报告对少数类的误差、校准,以及把该特征加入排序后的对待差异(曝光、出价、内容类型)。自变量:是否允许该特征、用途(营销 / 安全 / 无)。因变量:分类误差的分布、排序对待差异、用户在知情后的拒绝率。

没有代表性样本时不要报「我们估不准所以无害」。估不准在尾巴上往往最伤。研究必须按敏感类分层,不能用总体准确率掩盖。

边界

安全检测(未成年保护、自伤危机)有时必须用相关信号,那是单独的用途通道,不能借机喂给广告排序。用户主动填写的敏感字段,限制从「能不能估」转成「能用在哪」。公开创作者身份不是推断。组合非敏感行为推出敏感类,是即使单项都「不敏感」仍可能违规的合成问题,不在这一条的清单定义里展开。

怎么落地

  • 维护一份敏感属性清单,默认禁止从行为估计,禁止写入排序特征。要启用必须单独立项:用途、保留、谁能看见。
  • 广告与推荐的特征表里做名称扫描,拦截健康、宗教、性取向等字段,包括近义词和代理变量(「母婴」当怀孕代理)。
  • 验证:从生产特征存储里抽样,人工标是否属于敏感类或其代理。出现未立项的项,就是普通兴趣流程被原样搬过来了。

延伸

  • 同组L6.06.1 行为推断可能触及未主动披露的信息 · L6.06.2 推断结果的展示本身构成披露 · L6.06.4 非敏感行为的组合可以推出敏感属性,逐项合规不等于整体合规 · L6.06.5 推断结果在共享设备与共享屏幕上会向第三方披露 · L6.06.6 推断错误同样造成伤害,被错误归类者往往无处申诉 · L6.06.7 用户对推断的容忍度取决于场景,同一推断在不同产品中评价不同 · L6.06.8 退出推断与退出数据采集是两件事,应分别提供开关
  • 相邻L6.10 个性化的可关闭与可重置 · L5.05 透明度的适度原则 · L4.06 代理的权限边界
  • 站内检索constrained sensitive-attribute inference · special category data · sensitive attributes

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/L6.06.3