L6.06.7context-dependent inference tolerance设计研究

用户对推断的容忍度取决于场景,同一推断在不同产品中评价不同

别名: 场景容忍度 · 推断可接受性 · contextual acceptability

概念解释

音乐应用根据深夜播放估一个情绪标签,多数人觉得省事;同一套时序若出现在求职平台或家庭共享相册里,评价会翻成冒犯。随场景而变的推断容忍(context-dependent inference tolerance)指:对同一类推断的接受度,随产品承诺、关系后果、可否退出而变,不存在一个跨产品通用的「可以估」。

能估、估得准、用户接受,是三件分开的事。接受绑在场景上。

机制

人用产品契约来解释数据使用。音乐应用的契约是「帮我找到下一首」,推断被读成服务;求职应用的契约是「展示我的能力」,推断被读成审查。同一技术,落入不同契约,道德归类就变。关系后果也在变:推断若可能被家人、雇主、同学看见,容忍下降,即使标签在单人使用时无害。

产品还会用「这是个性化」一句话覆盖所有场景,把本该重新谈判的契约省掉。于是在音乐里被接受的管道,原样接到医疗、教育、办公,冲突不是用户善变,是契约被偷换。

怎么研究

把同一推断(如情绪、家庭结构、健康倾向)放到不同产品框架里描述:娱乐、购物、求职、医疗、教育、办公。测接受、意外、是否要求先问。自变量:产品框架、推断是否被展示、是否提供退出、关系后果(是否可能被他人看见)。因变量:可接受性评分、退出意愿、把该推断判成「服务」还是「监视」。

不要在单一产品样本上报告「用户其实不介意被推断」。样本所在的契约解释不了别的契约。跨产品对照才是这一问的设计。

边界

法定禁止的敏感类不因场景变宽而变合法,容忍研究不能覆盖红线。儿童与依赖型用户的「接受」不能当作成年人的同意。同一产品内部也有场景切分(工作档案 vs 私人档案),要按档案而不是按 App 图标切。这条解释「为什么同一推断评价不同」,不替代敏感类限制,也不替代把推断与采集分成两个开关。

怎么落地

  • 按产品契约写推断用途清单:娱乐里允许的标签,默认不得进入该账号下的求职、医疗、办公表面。
  • 换表面时重新告知,不要假设用户在音乐里点过允许,办公里仍然允许。
  • 验证:把准备上线的一项推断,分别用一句话放到三个不同产品表面问接受度。若只在其中一个可接受,就只开那一个,不要做成平台级默认。

延伸

  • 同组L6.06.1 行为推断可能触及未主动披露的信息 · L6.06.2 推断结果的展示本身构成披露 · L6.06.3 敏感类别的推断需要额外限制 · L6.06.4 非敏感行为的组合可以推出敏感属性,逐项合规不等于整体合规 · L6.06.5 推断结果在共享设备与共享屏幕上会向第三方披露 · L6.06.6 推断错误同样造成伤害,被错误归类者往往无处申诉 · L6.06.8 退出推断与退出数据采集是两件事,应分别提供开关
  • 相邻L6.05 个性化的可关闭 · L5.09 过度信任与信任崩塌 · L1.02 能力边界的表达
  • 站内检索context-dependent inference tolerance · contextual acceptability · product-specific inference

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/L6.06.7