L3.04.1generated content must be identifiable设计研究

生成内容需可被识别

别名: 生成可识别 · AI 内容识别 · machine-origin disclosure

概念解释

朋友圈里一张灯光完美的产品图,点开说明写「实拍」。没有一处告诉看的人:这张图是生成的。生成可识别(generated-content identifiability)要求:接收者在使用或再传播之前,能够知道眼前这份材料不是对人、对现场、对原作的直接记录,而是模型合成的。

可见角标和水印是两条技术通道,失效方式不同。这里问的是接收者能不能知道来源类别,不是用哪条通道。

机制

人用来源类别来校准相信的方式:照片当证据,插画当主张,生成物当合成。类别一旦被拿掉,校准通道关闭,材料会按最像的那一类被对待——照片般的生成图被当实拍,口吻像记者的段落被当报道。生成器的目标函数不包含「让人看得出我是合成的」,逼真反而降低可识别性。

可识别是接收者侧的状态,不是生产者侧的自我感觉。做的人知道自己按了生成,转出去的人、更后面的读者不知道。标识的对象是后续每一个接收者。

怎么研究

把同一材料标成「实拍 / 生成 / 不说明」,测证据权重、分享意愿、是否愿意当事实引用。自变量:有无类别标记、材料本身的逼真程度。因变量:来源类别判断准确率、把生成物当记录的比例。

逼真程度必须作为因子。高逼真无标记条件下的误判,才是可识别失败的度量;低逼真材料即使用户猜对,也不是标识在工作。

边界

用户自己刚生成、并且没有离开本界面时,可识别已经由操作本身提供,额外角标是提醒而不是唯一通道。明确的虚构体裁(游戏立绘、戏仿)接收者本来就不会当记录。无障碍环境里,只靠颜色的角标对部分用户不可见,可识别必须能被读屏读到。这条不处理标识在截图之后还在不在,也不处理缺失如何污染下游语料。

怎么落地

  • 在生成物首次呈现处给出类别,让不了解产品的接收者也能读到,而不是只在设置里写「本产品使用 AI」。
  • 类别用语要说来源(「模型合成」),不要说质量(「可能不准确」)。质量警告不是类别。
  • 对可能被当证据的模态(照片、人声、公文版式)提高类别显著度。
  • 验证:把输出截给没见过这个产品的人,问「这是记录还是合成」。答成记录的每一份,都是不可识别。

延伸

  • 同组L3.04.2 标识需在内容流转后仍然保留 · L3.04.3 标识缺失会污染后续信息环境
  • 相邻L3.10 AI 内容的标识与水印 · L3.05 版权与素材来源
  • 站内检索generated-content identifiability · machine-origin disclosure · synthetic media label

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/L3.04.1