模型的自洽程度与其对错程度是两回事,一致但错误的模型仍可用
别名: 自洽不等于正确 · 一致性谬误 · coherence versus correctness
概念解释
一套心智模型可以完全"讲得通"——内部各部分互相不矛盾,用它去预测系统行为总能得出一个确定的答案——但这套逻辑自洽的模型仍然可能整体上是错的,也就是和系统真实机制完全不符。自洽(internal consistency)问的是"这套故事内部矛不矛盾",正确(accuracy)问的是"这套故事和事实符不符",是两个彼此独立的维度,一个维度上的高分不能推出另一个维度也高。
机制
用户构建模型的素材来自有限的、片段化的观察,而不是系统的设计文档。一套解释哪怕基于完全错误的假设,只要这个假设被贯彻到底、没有被后续观察推翻,就能自洽地覆盖用户实际接触到的全部现象——因为"自洽"只要求内部不矛盾,并不检验这个假设本身是否对应真实机制。用户没有另一个版本的模型可以拿来对照,自洽的模型在TA自己看来和正确的模型没有任何主观差别,两者用起来的体感完全一样。
怎么研究
分别测量两个维度是把两者拆开的关键:一致性测法是反复用同一模型在多个情境下做预测,检查预测之间是否互相矛盾;正确性测法是把模型的预测拿去和系统真实行为逐一核对。把这两套结果交叉分类,能找出"高一致、低正确"这一类最难被自我察觉的模型状态,这类模型往往是最顽固、最难被日常使用中的负反馈打破的一种。
边界
这个区分只在用户从未遇到过反例的前提下才成立——一旦系统的真实行为在某个场景暴露了与模型不符的结果,自洽性会立刻受到冲击,用户要么修正整个模型,要么用临时补丁(当作"个例外")勉强维持表面上的自洽。后一种做法会让模型逐渐退化成一堆互相拼凑的特例,越补越复杂,也越来越失去对新情境的预测能力,而这个退化过程本身通常不会被用户意识到。
延伸
- 同组:A7.01.1 心智模型是用户对系统如何运作的内部解释 · A7.01.2 模型可以不正确但仍能支撑操作 · A7.01.3 模型决定用户在异常时的预期与应对 · A7.01.4 心智模型的核心功能是预测系统在给定操作下的行为,而非记住具体步骤 · A7.01.5 完备的心智模型使用户能推导出从未被教过的操作方式 · A7.01.7 用户对自身模型的准确性缺乏自知,很少主动怀疑其正确性
- 相邻:A7.14 错误心智模型的识别与修正 · A7.12 因果归因与迷信行为
- 站内检索:
coherence versus correctness·internal consistency·folk theory