L4.12.4displayed path must be the real path设计研究
展示的步骤必须是真实执行路径,编造的过程描述会误导干预时机
别名: 步骤必须是真的 · no fake chain-of-thought · 假过程害干预
概念解释
屏幕上的步骤若是事后编的「我先思考了…然后决定…」,而实际工具调用是另一条链,人就会在错误的时刻下手。展示的路径必须是真路径(displayed path must be the real path):每一步对得上一次真实的调度——调用了哪个工具、对着哪个对象、返回了什么。编造的过程描写是另一种幻觉。
好看的推理叙述不是观察,是文案。干预打在文案上,打不中执行。
机制
干预时机依赖「下一拍将发生什么」。假步骤把将发生的事说错,人可能在安全的叙述上按下中止,或在叙述还停留在「分析」时,对外发送已经走了。这比没有窗更坏:没有窗时人至少知道自己看不见;假窗给人已经看见的确信。计划审批若也看这份描写,批准的是剧本,跑的是另一出——那是计划一致性问题;这里管的是执行期的过程视图必须接在调度器上,而不是接在语言模型的自我叙述上。
真路径可以抽象(节点级),但抽象必须是真事件的聚合,不能是另一套故事。
怎么研究
对比三种过程视图:接调度器的真实工具轨迹、模型生成的推理叙述、两者并排且故意让叙述与轨迹分叉。因变量:人干预的时刻是否落在真实跨越前、是否因叙述而错过或误停、事后能否指出分叉。自变量:叙述是否标成「非执行」、分叉的位置。
主终点是干预时刻相对真实跨越的位置,不是叙述好不好读。
边界
完全没有内部推理可展示时,只展示工具轨迹即可,不要补故事。调试需要的模型内心独白应标成非执行,且不得驱动中止按钮的语义。位置与剩余若建立在假节点上,骨架会精确地错。计划与执行是否一致,是审批那一层;这里是跑起来之后视图接在哪。
怎么落地
- 过程视图的数据源只能是调度器事件。模型叙述若要显示,单独一栏,标题写成「系统的说法,不是执行」。
- 中止、改对象、跳过只绑定真实事件。叙述栏不可点成执行控制。
- 验证:让叙述停留在「正在分析收件人」,同时调度器发出邮件。人若因此没停,假路径已经误导了时机。把叙述栏拿掉,干预应回到真实跨越前——回不到,控制就还绑在文案上。