A7.01.7Metacognitive blindness to one's own model研究

用户对自身模型的准确性缺乏自知,很少主动怀疑其正确性

别名: 元认知盲区 · 过度自信 · illusion of explanatory depth

概念解释

用户几乎不会主动问自己"我对这个系统的理解到底对不对"——只要模型能持续给出可用的预测,TA就会把这套理解当作事实来使用,而不是当作一个有待验证的假设。这种缺乏自知不是粗心大意,而是心智模型运作方式本身导致的常态:模型运行得越顺利,用户越不会去检视它。

机制

模型一旦形成就会退到意识背景中运行,用户体验到的是"预测结果"本身,而不是"我正在套用一个模型"这个过程——就像说话时不会时刻意识到自己在套用语法规则一样。用户手头没有外部对照:不知道系统的真实机制,通常也没有第二个人随时指出TA哪里想错了。在缺乏反例和外部对照的情况下,模型的自洽性就会被主观体验为正确性,两者从内部根本无法被区分开来,用户自然也就没有产生怀疑的触发点。

怎么研究

量化这种缺乏自知的常见做法,是让用户先对自己某项理解打一个自信分数,再让TA完成一个专门设计来暴露模型漏洞的任务,比较自信程度和实际正确率是否脱节——自信与准确率不相关、甚至负相关,就是这种缺乏自知的直接证据。另一种做法是直接追问"你有多确定这是对的",多数用户给出的自信水平会明显高于TA随后实际测出的正确率。

边界

这种缺乏自知不是所有用户、所有情境下都同等严重——遭遇过明显失败(操作出错且能追溯到自己理解有误)的用户,会对该功能局部的理解明显下调自信,说明具体的负反馈可以打破这种缺乏自知,但通常只波及暴露出问题的那一小块模型,不会扩散到模型的其余部分。此外,完全没有经验的新手往往连"自己已经形成了一套理解"这件事都未必意识到,这和有一定经验、却从未受挫的用户所表现出的缺乏自知,性质并不相同——前者接近一片空白,后者是一种虚假的确信。

延伸

  • 同组A7.01.1 心智模型是用户对系统如何运作的内部解释 · A7.01.2 模型可以不正确但仍能支撑操作 · A7.01.3 模型决定用户在异常时的预期与应对 · A7.01.4 心智模型的核心功能是预测系统在给定操作下的行为,而非记住具体步骤 · A7.01.5 完备的心智模型使用户能推导出从未被教过的操作方式 · A7.01.6 模型的自洽程度与其对错程度是两回事,一致但错误的模型仍可用
  • 相邻A7.14 错误心智模型的识别与修正 · A7.06 错误模型的识别
  • 站内检索illusion of explanatory depth · metacognitive blindness · overconfidence

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/A7.01.7