L3.10.3missed detection is not human authorship设计研究

检测不出不等于内容并非生成,缺乏标识不能作为真人创作的证据

别名: 未检出≠真人 · 检测失败 · absence of watermark

概念解释

检测器返回「未检出水印」,界面写「真人拍摄」。未检出是检测的一种结果,不是来源类别的证明。生成图可以无水印、水印被洗掉、来自不打水印的模型;真人作品也可能被误检。未检出不是人类创作(missed detection ≠ human authorship)要求:缺乏标识只能说明「这一次检测没有找到标记」,不能写成「因此是人做的」。

标识缺失会污染环境,是下游管道的后果。这里管的是把检测阴性当成作者身份。

机制

检测是有假阴性的分类器:阈值、压缩、再生成、从未打标的来源,都会产出「未检出」。人把阴性读成肯定命题——「不是生成的」——因为界面通常只给两个箱子:生成 / 真人。阴性只拒绝了「找到了标记」,没有证实另一箱。

把阴性写成真人,还会激励洗标记:成功的规避被界面奖励为「通过了人类创作认证」。取证和推荐管道一旦这样写,规避者比守规者更像「真的」。

怎么研究

四类材料:已标生成、洗掉标记的生成、从未打标的生成、真人作品。跑检测器,看界面如何把阴性翻译成人话。因变量:把未检出判为真人的比例、对洗标生成的信任。自变量:文案(「未检出」vs.「真人」)、是否展示不确定档。

必须包含从未打标的生成。只测洗标,会把问题缩小成鲁棒性,漏掉「世界上大量生成物本来就没有标」。

边界

在封闭系统里,所有生成出口都被强制打标且通道未断时,未检出作为内部异常信号有用——那是「我们的管道漏了」,仍不是「所以是用户拍的」。法庭或新闻室需要的是来源调查,不是检测器二分类。误报把真人标成生成,是另一方向的伤害,不能用「宁可标成生成」一笔勾掉,但也不能反过来把阴性当通行证。这条不处理验证入口有没有,也不处理守规成本。

怎么落地

  • 阴性结果的文案停在「未找到标识」,不要写成「真人创作 / 实拍」。
  • 提供第三档:「无法判定来源」,作为未检出的默认,而不是二选一。
  • 取证、推荐、入库不要把未检出当作人类记录的准入条件。
  • 验证:把一张洗掉标记的生成图送进检测文案。若输出「真人拍摄」或等价物,阴性已经被当成作者身份。改成「未找到标识」后再问人怎么理解——仍大量理解成真人,文案还没把逻辑说清。

延伸

  • 同组L3.10.1 标识分为可见标注与嵌入式水印,二者的失效方式与适用场景不同 · L3.10.2 截图、转述与再编辑会剥离标识,存活率随流转次数下降 · L3.10.4 标识只在有人核验时起作用,因此必须配套可用的验证入口 · L3.10.5 强制标识把成本加在守规者身上,有意规避者可以直接绕过
  • 相邻L3.04 内容标识 · L3.03 幻觉与事实核查负担
  • 站内检索false negative watermark · absence of evidence · human authorship claim

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/L3.10.3