历史属于隐私敏感数据
别名: 提示历史敏感 · 对话日志隐私 · prompt log PII
概念解释
提示里会出现客户名、未公开的营收、病历号、还没提交的代码。历史若被当成普通的「最近使用」来同步、分享、给模型再训练,这些内容会离开当初那次任务的边界。提示历史是敏感数据(prompt history as sensitive data)把流水、已保存的复用对象、甚至「看起来无害的周报提示」默认按敏感信息处理:谁能看、在哪存、何时删、会不会进训练,都必须是显式决定,不能靠「反正是我自己的聊天记录」蒙混。
可保存和可当教材,都增加了副本。敏感不是反对那些能力,是那些能力一打开,副本的命运就要被设计,而不是附带发生。
机制
开放输入没有字段级的敏感性标记。人不会在每句前面勾「这句含个人信息」。于是整条历史的敏感度被最敏感的那一句拉到最高——一块日志里混着天气闲聊和劳动合同草稿,权限却只能整段给。同步到多设备、企业管理员查看、客服排障、模型改进,每一条看似合理的下游都会复制这份混装日志。
还有表面匿名失败。去掉姓名仍能靠项目俗称、报错栈、独特周报结构反推到人。生成产物里的引用会把提示里的秘密再写一遍,删提示不删产物等于没删。共享屏幕和投屏把「只有我能看的历史」当场变成第三人可见。
怎么研究
用含有不同类型敏感项的任务(直接标识、准标识、商业秘密、第三人数据),看产品默认把历史送到哪些下游:本地、账号云端、团队管理员、训练管线、支持工单。自变量:是否分类保留、是否提供按会话删除、删除是否包含产物与已保存复用对象、是否在发送前警告「这段可能被用于改进」。因变量:用户对下游的知晓率、实际下游与声明是否一致、删除后取证能否找回。
不要只测隐私政策可读性。要取证:点删除之后,复用库、搜索索引、设备备份里还在不在。
边界
本地、无账号、不上传的工具,敏感下游短一截,仍有设备被别人解锁、备份进云盘的问题。企业环境里管理员可见是合同的一部分,但不能因此把个人试探性提示(例如「帮我起草辞职」)默认交给直属上级——需要工作区与个人区。公开演示账号、教室投影,历史应是空的或假的。法规对医疗、儿童、金融另有留存年限,删除权与留存义务冲突时要在界面上说清哪一条占上风。这条不反对保存有效提示,只反对把保存当成无成本的便利。
怎么落地
- 默认按最高敏感处理整段历史:加密、最小授权、训练默认退出。需要进训练或进团队可见时,单独开、单独说。
- 删除是一等动作,范围写明:当前会话 / 已保存项 / 产物 / 搜索索引。删完用同一搜索确认搜不到。
- 共享、导出、投屏前给出这份历史可能含什么的提醒,并提供「用一份不含历史的窗口」。
- 验证:写入一条含明显标识的提示,走完保存、同步、搜索。再执行删除,在另一台已登录设备、复用库、管理后台取证。任一处还在,敏感数据的生命周期没有闭合。把这条取证写进发布清单,与「能不能复用」「能不能当教材」分开签收。