O2.10.2Inferred profile visibility设计研究

基于原始数据推断出的画像通常不出现在仪表盘中

别名: 推断数据可见性 · 用户画像透明 · inferred attribute disclosure

概念解释

推断画像可见性(inferred profile visibility)要求仪表盘不只呈现用户主动提供或系统直接观察的记录,还显示由这些记录计算的分类、分数、兴趣、风险标签或预测。画像不是“更多原始数据”;它是系统对人的可错误主张,可能比输入本身更直接影响排序、定价、审核或广告。

机制

数据工程往往将“用户数据”理解为可导出的原始表,而将模型特征、分群和中间分数当作内部系统状态。结果是用户可以看到产生判断的记录,却看不到真正用于待遇差异的表征。呈现画像可以暴露误分类、过时推断与用户未预期的二次用途,并为质疑提供对象。

怎么研究

创建具有已知原始事件、特征、推断标签和下游决策的测试账户,让参与者找出“系统认为我是什么”、判断依据和影响,并纠正一个故意错误的画像。把仪表盘与特征库、模型输出和决策日志按血缘对账,测量范围完整、不确定性理解、纠错成功和后续结果。仅显示“兴趣标签”不能证明高影响分数已覆盖。

边界

实时暴露安全、欺诈或滥用检测的精确特征和阈值可帮助规避,但可呈现类别、主要依据、影响和申诉路径。模型输出可能是瞬时或概率性的,不应把它写成恒定人格事实。对群体而非个人生成的统计也需区分,避免误示系统已对个人作出确定判断。

怎么落地

  • 盘点特征、分群、分数、标签和预测,按是否影响功能、展示、价格、风险或人工决策排序。
  • 对每项显示人可理解的名称、当前值、不确定性、主要数据来源、最后更新与实际影响。
  • 提供质疑、纠正、限制使用或申诉入口,并说明操作会更改原始数据、派生画像还是下游决策。
  • 用特征库与决策日志生成覆盖清单,对高影响画像逐项回归;任一隐藏输出仍影响用户时不得声称画像完整可见。

延伸

  • 同组O2.10.1 数据访问历史 · O2.10.3 仪表盘实时更新 · O2.10.4 仪表盘信息过载
  • 相邻O1.12.3 可携数据范围 · N3.07 算法推断的可解释性
  • 站内检索inferred profile visibility · derived data transparency · profile correction

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/O2.10.2