L4.08.1agent execution must be observable设计研究
代理执行过程需可观察
别名: 过程可观察 · glass-box agent · 不要黑盒跑完
概念解释
代理在跑的时候，人必须能看见它正在做什么：调用了哪个工具、对着哪个对象、处于计划中的哪一段。执行过程可观察（agent execution must be observable）要求有一扇对着过程的窗，而不是只在结束时给一份结果。看不见的执行，人无法监督，层级在事实上升到了完全自主。
转圈和「正在思考」不是观察。观察要能回答「它现在在碰什么」。
机制
监督控制的前提是监督者能采样被监督的过程。过程若封在黑盒里，采样点只剩下开始和结束，中间的对外动作在人不知情时已经发生。Endsley 的知觉层在执行期间没有输入，回路外不是人离开了，是窗口不存在。可观察是有无的问题：窗开着还是关着。窗开了之后怎么用——密度、真假、静默阶段——是更细的中间态设计；没有窗，那些问题不会出现。
产品用最终摘要冒充过程可见，是因为摘要便宜、过程流贵。摘要回答「做完了什么」，不回答「此刻正在做什么」。
怎么研究
同一长任务，比较黑盒（只给最终结果）、状态徽章（「运行中」）、对象级过程流（工具、对象、状态）。因变量：人能否在中途说出当前对象、是否在该拦的时候拦、主观控制感。自变量：窗是否存在、刷新是否及时、是否只在结束时倒出日志。
中途探询「它现在在干什么」答不上来，就是不可观察，无论结束后日志多完整。
边界
一次短调用、人盯着结果出来的，过程窗收益小。安全上不能把工具细节暴露给该操作者时，可观察要降级到「正在对哪一类对象做什么」，不能降级到完全不说。中间步骤用来及时干预、以及只有终局无法定位，是可观察成立之后的用途和反例，这里只要求窗本身存在。
怎么落地
- 长任务必须有过程视图：至少当前工具、当前对象、运行/等待/失败。转圈不能当这三件事的替代。
- 过程视图在执行期间可用，不许只在结束后生成。人离开再回来，应看到此刻，而不是空状态。
- 验证：跑到一半把操作者叫来，遮住品牌文案，问「它正在碰什么」。答不出对象，窗就不存在。结束后把完整日志贴出来不能补这一问。