U8.05.2Removal requires stated criteria设计研究

剔除需要说明标准

别名: 剔除标准 · 排除规则

概念解释

从数据中剔除任何点都是一个影响结论的决定,这个决定的正当性不取决于剔除本身,而取决于剔除的标准是否事先声明、是否与结论无关、以及是否对所有数据一致执行。"我们删掉了几个异常值"没有说明任何事情——删了多少、按什么规则删的、删之前结论是什么——读者无法评估剔除是否合理,也无法排除"剔除恰好让结论变得漂亮"的可能。剔除标准的透明度是数据分析可信度的基础构件。

机制

未声明标准的剔除不可信的机制在于研究者自由度(researcher degrees of freedom)的滥用空间:同一份数据在不同剔除标准下可以得出不同甚至相反的结论,如果剔除标准是在看过结论之后选择的("删掉这几个点后 p 值刚好过了"),剔除就从数据清洗变成了结论制造。这种操作往往不是故意造假——人有事后的合理化能力,"那个点看起来就不对"的直觉判断常常在看过数据后产生,而直觉本身已被结论污染。声明标准的机制作用是把选择从"看结果后的裁量"提前为"看结果前的承诺":预先注册的剔除规则("删除点击时长低于 1 秒的记录")无法针对特定结论调整,剔除非但不可疑反而增强了可信度;事后声明的规则也可评估其合理性(规则是否独立于结论变量、是否对全部数据一致执行)。透明度把评估的钥匙交给了读者而不是留在作者手里。

怎么研究

研究剔除标准影响的方法包括多分析师研究(many-analysts,如 Silberzahn 等人组织的跨团队重复分析):同一数据集与同一研究问题交给多个独立团队分析,记录各自选择的剔除标准与结论,量化标准选择对结论分布的影响——这类研究里,分析选择(含剔除标准)的差异足以让不同团队得出方向或显著性都不一致的结论。在设计层面,可以测试剔除信息的透明度(标注剔除数量与规则 vs 不标注)对读者信任度与核查意愿的影响。方法论的注意点:剔除标准的"合理性"与"透明度"是独立维度——一个合理但未声明的标准仍然不可评估,一个透明但不合理的标准("删除最小的三个值")则会被识别为问题,两者都需要报告。

边界

标准声明的要求随结论的影响范围升级:内部探索图表可以只标注"已剔除 N 个离群点",对外发布的结论(论文、监管报告)需要完整的标准定义、剔除数量、剔除前后结论对比。标准的"事先"程度也有梯度——理想是预注册(分析前锁定),次优是标准独立于结论变量(用与结果无关的采集质量规则),再次是事后声明但附敏感性分析。某些领域的标准本身有争议(心理学中剔除反应时低于 200ms 的试次是惯例但边界值选择影响结果),此时声明惯例的出处与敏感性检验比声明惯例本身更重要。最后,不剔除也是决定——保留异常值的分析同样需要说明为什么保留(不确定来源且结论对离群点稳健),透明度要求是双向的。

怎么落地

  • 所有剔除规则写入分析文档:规则的精确定义、剔除数量、占比、对结论的影响(剔除前后核心指标对照)。
  • 图表上直接标注剔除信息(脚注或悬浮:"已剔除 37 条采集失败记录,占比 1.2%,剔除前后结论一致")。
  • 剔除规则优先采用与结论无关的质量性定义(采集失败、时长异常)而非结果性定义("偏离均值 3 个标准差"在分析前定义可接受,分析后按结论挑选则不可接受)。
  • 验证:抽一份带剔除的分析报告,检查能否仅凭报告复现剔除过程(哪些点被删、为什么);不能复现即声明不足。

延伸

  • 同组U8.05.1 异常值可能是错误也可能是发现 · U8.05.3 坐标压缩会掩盖主体分布
  • 相邻U8.05.1 异常值可能是错误也可能是发现 · U8.03.2 多重比较未校正时显著性标记会系统性偏多
  • 站内检索exclusion criteria · researcher degrees of freedom · preregistration

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/U8.05.2