L2.07.3prompt history as sensitive data设计研究

历史属于隐私敏感数据

别名: 提示历史敏感 · 对话日志隐私 · prompt log PII

概念解释

提示里会出现客户名、未公开的营收、病历号、还没提交的代码。历史若被当成普通的「最近使用」来同步、分享、给模型再训练,这些内容会离开当初那次任务的边界。提示历史是敏感数据(prompt history as sensitive data)把流水、已保存的复用对象、甚至「看起来无害的周报提示」默认按敏感信息处理:谁能看、在哪存、何时删、会不会进训练,都必须是显式决定,不能靠「反正是我自己的聊天记录」蒙混。

可保存和可当教材,都增加了副本。敏感不是反对那些能力,是那些能力一打开,副本的命运就要被设计,而不是附带发生。

机制

开放输入没有字段级的敏感性标记。人不会在每句前面勾「这句含个人信息」。于是整条历史的敏感度被最敏感的那一句拉到最高——一块日志里混着天气闲聊和劳动合同草稿,权限却只能整段给。同步到多设备、企业管理员查看、客服排障、模型改进,每一条看似合理的下游都会复制这份混装日志。

还有表面匿名失败。去掉姓名仍能靠项目俗称、报错栈、独特周报结构反推到人。生成产物里的引用会把提示里的秘密再写一遍,删提示不删产物等于没删。共享屏幕和投屏把「只有我能看的历史」当场变成第三人可见。

怎么研究

用含有不同类型敏感项的任务(直接标识、准标识、商业秘密、第三人数据),看产品默认把历史送到哪些下游:本地、账号云端、团队管理员、训练管线、支持工单。自变量:是否分类保留、是否提供按会话删除、删除是否包含产物与已保存复用对象、是否在发送前警告「这段可能被用于改进」。因变量:用户对下游的知晓率、实际下游与声明是否一致、删除后取证能否找回。

不要只测隐私政策可读性。要取证:点删除之后,复用库、搜索索引、设备备份里还在不在。

边界

本地、无账号、不上传的工具,敏感下游短一截,仍有设备被别人解锁、备份进云盘的问题。企业环境里管理员可见是合同的一部分,但不能因此把个人试探性提示(例如「帮我起草辞职」)默认交给直属上级——需要工作区与个人区。公开演示账号、教室投影,历史应是空的或假的。法规对医疗、儿童、金融另有留存年限,删除权与留存义务冲突时要在界面上说清哪一条占上风。这条不反对保存有效提示,只反对把保存当成无成本的便利。

怎么落地

  • 默认按最高敏感处理整段历史:加密、最小授权、训练默认退出。需要进训练或进团队可见时,单独开、单独说。
  • 删除是一等动作,范围写明:当前会话 / 已保存项 / 产物 / 搜索索引。删完用同一搜索确认搜不到。
  • 共享、导出、投屏前给出这份历史可能含什么的提醒,并提供「用一份不含历史的窗口」。
  • 验证:写入一条含明显标识的提示,走完保存、同步、搜索。再执行删除,在另一台已登录设备、复用库、管理后台取证。任一处还在,敏感数据的生命周期没有闭合。把这条取证写进发布清单,与「能不能复用」「能不能当教材」分开签收。

延伸

  • 同组L2.07.1 有效输入需可保存与复用 · L2.07.2 历史是学习如何使用的主要来源
  • 相邻L2.14 上下文的携带与清除 · L6.06 隐性偏好推断及其边界 · L4.15 责任归属与可追溯
  • 站内检索prompt history as sensitive data · prompt log PII · conversation data lifecycle

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/L2.07.3