L5.05.7transparency without trust设计研究

透明不必然带来信任,暴露复杂性有时反而降低信任

别名: 透明不等于信任 · 暴露复杂性 · complexity lowers trust

概念解释

放射科把集成模型的投票细节摊开:三套骨干意见不合、阈值是拍脑袋调的。医生看完,交托意愿比只看一个干净分数时更低。透明不自动产信任;把复杂性亮出来,有时会把信任压下去(transparency without trust)。

信任跟的是「我还敢不敢交」,不是「我看见了多少内部」。看见可以变成「这东西比我以为的更乱」。

机制

人用简单性当能力的线索。干净的分数像一个拿得稳的工具;一堆互相打架的子模型像尚未完工。复杂性是事实,事实可以降低交托——这与「隐瞒失败会破坏校准」不是同一方向:那里缺的是失败样本,这里多的是人消化不了、又被读成不成熟的结构。

Lee 与 See 的校准要的是匹配可靠度,不是匹配内部零件清单。零件清单若不能改写成可靠度的范围,它就只是在展示工程未收敛。展示未收敛会被当成「还不能用」,哪怕实际命中率并不差。

怎么研究

同一可靠度,一组只看校准过的表现摘要,一组看内部零件(集成投票、超参、互相矛盾的子分数)。测交托与估计。自变量:复杂性暴露程度、是否同时给表现摘要、听众是否为该领域专家。因变量:交托、对可靠度的估计、把复杂性读成「不成熟」的比例。

专家有时能把零件读成「原来有备份」,交托不降反升。必须分听众报。

边界

当复杂性恰好解释了能力边界(「影像质量差时三套会散,请当未决」),暴露可以支持校准,这条会翻。公众沟通若已经在处理丑闻,隐瞒零件会更伤。这条不主张为了信任而藏失败;它主张零件清单不是信任的输入。连续成功把信任顶高、一次重创把信任抽空,是另一类过程。

怎么落地

  • 默认给表现与范围,不给零件。零件给需要修系统或做审计的人。
  • 若必须暴露内部,先把它翻译成对交托的含义(「意见不合时不要当确定诊断」),不要只贴投票原始表。
  • 不要把「我们很透明」当信任指标。信任指标仍是交托与可靠度的差。
  • 验证:两版界面,一版干净摘要,一版摊开集成细节,问还敢不敢把下一例交出去。交托掉而命中率没变,透明在这条上伤害了信任。

延伸

  • 同组L5.05.1 过量技术细节不产生理解 · L5.05.2 透明度需服务于用户的下一步决策 · L5.05.3 无法行动的信息是噪声 · L5.05.4 透明度是否足够,判断标准是用户据此能否改变下一步动作 · L5.05.5 过量细节会挤占用户处理关键信息的注意力 · L5.05.6 透明度与可用性存在张力,全部披露会使界面无法使用 · L5.05.8 不同角色应获得不同深度的说明,而不是同一份文本
  • 相邻L5.03 信任校准 · L5.09 过度信任与信任崩塌 · L5.02 局部解释与全局解释
  • 站内检索transparency without trust · complexity and trust · algorithm aversion

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/L5.05.7