L2.14.1sticky misunderstood context设计研究

上下文提高连续性,同时也让早前的误解持续影响后续输出

别名: 误解残留 · 上下文污染 · persistent misgrounding

概念解释

第二轮用户说「先别谈价格」。第十二轮他们要一份报价,系统仍然把价格写成「按需沟通」,因为那条禁令还在上下文里当有效约束。连续性让对话不用每句重申背景;同一条管道也让早前的误解或过期指令粘住(sticky misunderstood context)。粘住的不是记忆本身,是已经过期、却从未被宣布失效的那一段。

连续性是收益。这条只处理收益的背面:错误的共同基础一旦写进上下文,后面每一轮都在它上面盖楼。

机制

自回归条件把到目前为止的对话当作真。系统没有单独的「这条还有效吗」层。人用对话惯例默认后话可以撤销前话(「那现在可以谈价格了」),模型却把前后都当成同时为真的约束,或更糟,让较早、较明确的禁令压过较晚、较含蓄的请求。误解(把「我们」听成三口之家)同样会被后续轮次当成事实来补全。

人很难察觉粘住,因为当前回复局部仍然通顺。过期约束表现成风格或策略,不像报错。于是用户会换更强硬的措辞去对抗自己几轮前随口说的那句,把力气花在和幽灵约束搏斗上。

怎么研究

植入一条会过期的约束(临时禁价、错误的人数、错误的角色),若干轮后再给一条与之冲突的新目标。不提供清除手段。因变量:过期约束在冲突后是否仍主导输出、用户发现粘住所花的轮数、是否把失败归因于自己没说清。自变量:冲突指令的直说程度、过期约束距今的轮距、是否插入过不相关闲聊。

闲聊很关键。真实会话会插入跑题,跑题并不构成撤销,却会被人误当成「话题已经换了,旧约束该失效了」。若插入闲聊后粘住率不变,说明系统没有话题边界,人有。

边界

短会话、约束始终有效时,粘住就是正确的记忆,不应当作故障。用户明确说「以后都这样」的长期偏好,过期规则不适用。工具调用的状态(已下单、已写入表格)不是对话上下文,撤销它是事务回滚,不是忘掉一句话。多用户共用一段上下文时,粘住会造成串话,那是隔离问题,机制仍是同一条管道没有失效标记。

怎么落地

  • 把仍在生效的约束做成可看见、可关掉的对象(「仍在遵守:不谈价格」),而不是只埋在隐藏的提示里。
  • 检测与生效约束冲突的新请求,先问哪一条作废,不要默默让旧禁令获胜。
  • 允许针对单条约束失效,而不必丢掉整段对话。
  • 验证:写一条临时禁令,隔六轮给一个必须违反它才能完成的任务。若输出仍遵守禁令且界面上没有任何仍生效的提示,记为粘住事故。加上「失效这条」之后,同一任务应在一轮内完成,且其余背景仍在。

延伸

  • 同组L2.14.2 用户通常不知道系统实际记住了什么,需要可查看的上下文视图 · L2.14.3 需要显式的清除动作,靠新开会话来清除属于隐式约定 · L2.14.4 跨会话记忆会把一次性偏好固化成长期设定 · L2.14.5 上下文超长被截断时,用户看到的是没有解释的能力退化
  • 相邻L2.15 指令的歧义与澄清追问 · L2.12 结果的迭代修改与局部重生成 · L2.07 提示历史与复用
  • 站内检索sticky misunderstood context · context contamination · expired constraint

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/L2.14.1