O2.10.2Inferred profile visibility设计研究
基于原始数据推断出的画像通常不出现在仪表盘中
别名: 推断数据可见性 · 用户画像透明 · inferred attribute disclosure
概念解释
推断画像可见性(inferred profile visibility)要求仪表盘不只呈现用户主动提供或系统直接观察的记录,还显示由这些记录计算的分类、分数、兴趣、风险标签或预测。画像不是“更多原始数据”;它是系统对人的可错误主张,可能比输入本身更直接影响排序、定价、审核或广告。
机制
数据工程往往将“用户数据”理解为可导出的原始表,而将模型特征、分群和中间分数当作内部系统状态。结果是用户可以看到产生判断的记录,却看不到真正用于待遇差异的表征。呈现画像可以暴露误分类、过时推断与用户未预期的二次用途,并为质疑提供对象。
怎么研究
创建具有已知原始事件、特征、推断标签和下游决策的测试账户,让参与者找出“系统认为我是什么”、判断依据和影响,并纠正一个故意错误的画像。把仪表盘与特征库、模型输出和决策日志按血缘对账,测量范围完整、不确定性理解、纠错成功和后续结果。仅显示“兴趣标签”不能证明高影响分数已覆盖。
边界
实时暴露安全、欺诈或滥用检测的精确特征和阈值可帮助规避,但可呈现类别、主要依据、影响和申诉路径。模型输出可能是瞬时或概率性的,不应把它写成恒定人格事实。对群体而非个人生成的统计也需区分,避免误示系统已对个人作出确定判断。
怎么落地
- 盘点特征、分群、分数、标签和预测,按是否影响功能、展示、价格、风险或人工决策排序。
- 对每项显示人可理解的名称、当前值、不确定性、主要数据来源、最后更新与实际影响。
- 提供质疑、纠正、限制使用或申诉入口,并说明操作会更改原始数据、派生画像还是下游决策。
- 用特征库与决策日志生成覆盖清单,对高影响画像逐项回归;任一隐藏输出仍影响用户时不得声称画像完整可见。