上下文提高连续性,同时也让早前的误解持续影响后续输出
别名: 误解残留 · 上下文污染 · persistent misgrounding
概念解释
第二轮用户说「先别谈价格」。第十二轮他们要一份报价,系统仍然把价格写成「按需沟通」,因为那条禁令还在上下文里当有效约束。连续性让对话不用每句重申背景;同一条管道也让早前的误解或过期指令粘住(sticky misunderstood context)。粘住的不是记忆本身,是已经过期、却从未被宣布失效的那一段。
连续性是收益。这条只处理收益的背面:错误的共同基础一旦写进上下文,后面每一轮都在它上面盖楼。
机制
自回归条件把到目前为止的对话当作真。系统没有单独的「这条还有效吗」层。人用对话惯例默认后话可以撤销前话(「那现在可以谈价格了」),模型却把前后都当成同时为真的约束,或更糟,让较早、较明确的禁令压过较晚、较含蓄的请求。误解(把「我们」听成三口之家)同样会被后续轮次当成事实来补全。
人很难察觉粘住,因为当前回复局部仍然通顺。过期约束表现成风格或策略,不像报错。于是用户会换更强硬的措辞去对抗自己几轮前随口说的那句,把力气花在和幽灵约束搏斗上。
怎么研究
植入一条会过期的约束(临时禁价、错误的人数、错误的角色),若干轮后再给一条与之冲突的新目标。不提供清除手段。因变量:过期约束在冲突后是否仍主导输出、用户发现粘住所花的轮数、是否把失败归因于自己没说清。自变量:冲突指令的直说程度、过期约束距今的轮距、是否插入过不相关闲聊。
闲聊很关键。真实会话会插入跑题,跑题并不构成撤销,却会被人误当成「话题已经换了,旧约束该失效了」。若插入闲聊后粘住率不变,说明系统没有话题边界,人有。
边界
短会话、约束始终有效时,粘住就是正确的记忆,不应当作故障。用户明确说「以后都这样」的长期偏好,过期规则不适用。工具调用的状态(已下单、已写入表格)不是对话上下文,撤销它是事务回滚,不是忘掉一句话。多用户共用一段上下文时,粘住会造成串话,那是隔离问题,机制仍是同一条管道没有失效标记。
怎么落地
- 把仍在生效的约束做成可看见、可关掉的对象(「仍在遵守:不谈价格」),而不是只埋在隐藏的提示里。
- 检测与生效约束冲突的新请求,先问哪一条作废,不要默默让旧禁令获胜。
- 允许针对单条约束失效,而不必丢掉整段对话。
- 验证:写一条临时禁令,隔六轮给一个必须违反它才能完成的任务。若输出仍遵守禁令且界面上没有任何仍生效的提示,记为粘住事故。加上「失效这条」之后,同一任务应在一轮内完成,且其余背景仍在。