Z3.05.4Behavioural drift设计研究
学习型自动化的行为漂移会持续削弱可预测性
别名: 行为漂移 · 学习型系统漂移 · folk theories · 民间理论
概念解释
学习型自动化——从用户行为中持续学习的系统——有一种特有的可预测性侵蚀：行为漂移。它的「规则」随时间变化，本周学到的下周可能被新数据推翻；用户没改任何设置，系统行为自己变了。可预测性的基石是「同条件同行为」，学习机制恰恰保证不了这一点：用户刚建立的模型，每被一次静默更新打断一次。
漂移与随机故障的差别值得记住：随机故障被理解为「偶尔坏」，模型保持；漂移让用户无法区分「系统坏了」还是「系统变了」——归因系统本身失稳，信任损失比偶发故障深得多。
机制
漂移的三个来源，一个比一个隐蔽：
- 新数据改变模型：最近的观察权重更高，作息变了行为就变——这是学习的设计意图，但从用户视角它与故障没有外观差异。
- 训练目标与用户目标不对齐：系统优化的是能耗、时长、互动率这类可测目标，用户要的是舒适与省心——目标错位时，「学得越好」离用户越远。
- 静默性：学习在后台发生，界面上没有任何表征。用户看到行为变了，却找不到变化的理由。
第三条是放大器。Yang 与 Newman 2013 年对 Nest 学习温控器的入户研究发现：用户对学习机制有系统性误解（以为它在录音、以为叶子标识是要刻意维持的奖励），学习过程不透明时，用户发展出民间理论（folk theories）填补解释真空——朴素、往往错误、但真实指导使用行为。错的模型产生错的预测，错的预测消耗信任。
怎么研究
- Yang 与 Newman（CHI 2013）：学习型温控器在真实家庭中的误解与民间理论——学习型产品不透明时的用户认知形态的第一手记录。
- 民间理论研究：用户对算法系统如何工作的朴素解释已是成熟研究对象（社交媒体信息流的民间理论研究同样发现：解释真空必被朴素理论填补，且一旦固化很难纠正）。
- 方法：漂移审计——长期部署中自动检测行为分布的变化点（无设置变更条件下），与用户的惊讶报告（经验取样）按时序对照，量化「静默变化被发现的时延」与「发现后的归因正确率」。
边界
- 漂移不全是坏事。适应新需求正是学习型的价值；问题在静默与不可控，不在变化本身。结论不是别学习，是漂移要可见、可回滚、可暂停。
- **小步漂移可能落在容忍带内。**温度偏好的微调用户察觉不到也无所谓；伤害来自跨出容忍带的漂移，以及方向违背用户意愿的漂移（省电目标压过舒适目标）。别把「用户没抱怨」读成「没有伤害」——容忍带内的积累同样在磨信任。
- **规则型系统的一次性变化不属于这一主题。**固件更新导致的行为改变是离散的、有版本可查的事件，属于设备生命周期的主题；持续型、无版本锚点的渐变才是漂移。
怎么落地
- 变化通告：学习导致的行为改变生效时告知，附触发证据与撤销入口——「从本周起提前 20 分钟预热，基于最近三周你通常 18:40 到家；不对？点这里改回」。
- 学习可冻结：用户可以钉住当前行为，禁止继续学习——把「现在的它」固定下来，牺牲适应换可预测，这个交易权在用户手里。
- 训练目标可见：系统在优化什么（能耗/舒适/谁的偏好）写出来；多目标冲突时谁赢说清楚，别让用户用惊讶反推目标函数。
- 验证办法：漂移审计——从日志提取无设置变更条件下的行为变化事件，逐件检查是否有通告与撤销路径；静默漂移清零。