L4.12.4displayed path must be the real path设计研究

展示的步骤必须是真实执行路径,编造的过程描述会误导干预时机

别名: 步骤必须是真的 · no fake chain-of-thought · 假过程害干预

概念解释

屏幕上的步骤若是事后编的「我先思考了…然后决定…」,而实际工具调用是另一条链,人就会在错误的时刻下手。展示的路径必须是真路径(displayed path must be the real path):每一步对得上一次真实的调度——调用了哪个工具、对着哪个对象、返回了什么。编造的过程描写是另一种幻觉。

好看的推理叙述不是观察,是文案。干预打在文案上,打不中执行。

机制

干预时机依赖「下一拍将发生什么」。假步骤把将发生的事说错,人可能在安全的叙述上按下中止,或在叙述还停留在「分析」时,对外发送已经走了。这比没有窗更坏:没有窗时人至少知道自己看不见;假窗给人已经看见的确信。计划审批若也看这份描写,批准的是剧本,跑的是另一出——那是计划一致性问题;这里管的是执行期的过程视图必须接在调度器上,而不是接在语言模型的自我叙述上。

真路径可以抽象(节点级),但抽象必须是真事件的聚合,不能是另一套故事。

怎么研究

对比三种过程视图:接调度器的真实工具轨迹、模型生成的推理叙述、两者并排且故意让叙述与轨迹分叉。因变量:人干预的时刻是否落在真实跨越前、是否因叙述而错过或误停、事后能否指出分叉。自变量:叙述是否标成「非执行」、分叉的位置。

主终点是干预时刻相对真实跨越的位置,不是叙述好不好读。

边界

完全没有内部推理可展示时,只展示工具轨迹即可,不要补故事。调试需要的模型内心独白应标成非执行,且不得驱动中止按钮的语义。位置与剩余若建立在假节点上,骨架会精确地错。计划与执行是否一致,是审批那一层;这里是跑起来之后视图接在哪。

怎么落地

  • 过程视图的数据源只能是调度器事件。模型叙述若要显示,单独一栏,标题写成「系统的说法,不是执行」。
  • 中止、改对象、跳过只绑定真实事件。叙述栏不可点成执行控制。
  • 验证:让叙述停留在「正在分析收件人」,同时调度器发出邮件。人若因此没停,假路径已经误导了时机。把叙述栏拿掉,干预应回到真实跨越前——回不到,控制就还绑在文案上。

延伸

  • 同组L4.12.1 可观察的中间步骤把事后纠错变成过程中干预 · L4.12.2 步骤过密会超出用户的跟随能力,可见性退化为滚动的日志 · L4.12.3 用户需能判断当前处在计划的哪一步以及还剩多少 · L4.12.5 长时间没有输出的阶段需单独说明,否则会被判定为卡死
  • 相邻L4.14 多步任务的计划可见与修改 · L4.08 任务进度可见 · L5.01 可解释性的类型
  • 站内检索faithful trace · chain of thought · observability

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/L4.12.4