过量技术细节不产生理解

概念解释

贷款申请人打开「说明」，看到四十层网络、残差连接和嵌入维度。字都在，意思不在。过量技术细节不产生理解（excess detail without understanding）：理解是能够用自己的话复述与自己有关的那一层，不是材料的厚度。

Miller 强调解释是被选择、被听众约束的。把实验室里的全部中间量倒出来，选择等于没做。

机制

工作记忆装不下架构图里的符号。人会抓最先认识的词——「神经网络」「深度学习」——用它们代替理解，得到的是标签而不是机制。细节越多，抓错词的机会越大，虚假理解跟着涨。真正缺的那句（「这次用了你的流水，没用你的学历」）被埋在符号下面。

细节还有权威外表。看不懂时，人往往不说看不懂，而改口说「反正很专业」。专业感替代了理解，后续决策在空转。

怎么研究

同一决策配短说明与堆满实现细节的长说明，然后让人用自己的话复述「与我有关的依据」，并完成一项应用（改哪份材料）。自变量：细节量、是否允许回看、听众是否有机器学习背景。因变量：复述准确、应用正确、自信与准确的差（虚假理解）。

自信升高而复述变差，就是这条在发生。不要用阅读时长当理解。

边界

听众若就是要修模型的工程师，实现细节是理解的材料，这条对调。监管归档需要完整技术附录，附录不是给申请人当场读的。这条不处理细节会不会挤掉关键句——那是注意力竞争，不是「细节本身产不产生理解」。

怎么落地

• 当事人默认说明限制在可复述的几项依据。实现细节放到可展开的「技术附录」，默认收起。
• 写完之后用「非从业者能否复述与自己有关的部分」过一遍，过不了就删，不要加。
• 禁止用层数、参数量、论文名当说明的开头。
• 验证：遮住原文，请人讲「它凭什么这样对我」。讲不出，细节没有变成理解；若讲出的是「因为它是深度学习」，虚假理解已经形成。

延伸

• 同组：L5.05.2 透明度需服务于用户的下一步决策 · L5.05.3 无法行动的信息是噪声 · L5.05.4 透明度是否足够，判断标准是用户据此能否改变下一步动作 · L5.05.5 过量细节会挤占用户处理关键信息的注意力 · L5.05.6 透明度与可用性存在张力，全部披露会使界面无法使用 · L5.05.7 透明不必然带来信任，暴露复杂性有时反而降低信任 · L5.05.8 不同角色应获得不同深度的说明，而不是同一份文本
• 相邻：L5.01 可解释性的类型 · L5.02 局部解释与全局解释 · L5.08 反事实解释
• 站内检索：excess detail · understanding versus information · selected explanation