Q4.11.2Low agreement as codebook diagnosis研究

一致性系数低说明编码框架本身存在歧义

别名: 低kappa诊断 · 框架歧义 · unreliable coding frame

概念解释

一致性系数低,优先不要解释成“某个编码者不够认真”。在训练和材料难度大致相当的前提下,低符合率更常是编码框架的歧义在发声:码与码重叠、一个码里塞了两件事、分析单位没定、或大量现象只能挤进“其他”。把低一致当作手册诊断(low agreement as codebook diagnosis)是把数字读成框架质量信号,而不是读成人事考核。

机制

两个合格编码者若对同一片段反复落入不同格子,格子的边界对材料不工作。常见来源包括:定义用近义词循环解释;正面例子都很典型、反面例子缺席;互斥规则与“可多码”规则互相打架;切分粒度不同导致表面类别冲突。符合率也会被类别基数和底线频率扭曲:极稀有码上的一次分歧会重创系数,极常见的粗码则把系数抬高。因此低数字首先指向“这套格子无法稳定地切开材料”,其次才指向执行。

怎么研究

不要只看一个总系数。按码输出混淆:哪些成对码互相抢同一批片段,哪些码大量落入“其他”。分开统计单位分歧与类别分歧。对高分歧码做定义改写实验——拆分、合并或补反例——再在新材料上重测;系数回升且主题仍能回答研究问题,才算框架修好。编码者对质的录音可用来区分“看漏了”和“规则允许两种读法”。

边界

低系数有时确实来自训练不足、疲劳或材料含糊到几乎没有公共所指(例如参与者自己在用互相冲突的词)。此时修手册解决不了,需要回到田野或访谈澄清。追求系数而把有分析张力的码强行合并,会得到好看的数字和空洞的主题。不同系数(百分比符合、kappa、Krippendorff α)对偶然一致的处理不同,跨研究直接比较阈值没有意义。

延伸

  • 同组Q4.11.1 一致性需要统一的编码手册和明确定义支撑 · Q4.11.3 达成一致的过程本身能暴露被忽略的类别 · Q4.11.4 高一致性不等于编码结果具有分析价值
  • 相邻Q4.02 编码与主题分析 · Q1.14 研究者偏见与引导性提问
  • 站内检索Cohen's kappa · Krippendorff's alpha · coding frame

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/Q4.11.2