对单次负反馈过度响应会导致整类内容被误删
别名: 一次拒绝删一类 · 过激负反馈 · one-tap wipe
概念解释
一部拍得差的犯罪剧被标了不喜欢,整个犯罪类从首页消失,包括用户每周都在追的那一部。过广的负反馈(over-generalized negative feedback)指:一次拒绝被写进过大的单元,类、作者群或话题被误删,修复成本高于那一次不适。
范围需要被声明。这里要钉的是默认和强度:即便范围选的是「这条」,学习若把梯度打到类上,结果仍是误删。
机制
负例稀疏,模型喜欢从一次拒绝里榨出最多参数更新。最近邻、主题向量、标签树都会把更新沿相似边传开。一次对差作品的拒绝,变成对特征「犯罪」「夜间」「某平台自制」的惩罚。用户看见的是整类被端走。情绪性脉冲碰上这种传播,伤害更大:本不是稳定命题,却按稳定命题的最大半径去写。
过广还会关掉发现:类被删光之后,探测槽和多样配额都填不满该维,覆盖的沉默缺失跟着来。撤销若只恢复那一行、不恢复类级权重,用户会以为「已经撤销」而类仍不在。
怎么研究
在已知用户喜欢某类的账号上,对其中一部低质量条目做一次拒绝,默认范围是条目。测:该类其余条目的曝光变化、被误伤的喜欢项、用户发现误删的时间。自变量:更新是停在条目、停在作者、还是沿标签树传播、是否有次数阈值(同类拒绝几次才升到类)。因变量:类级曝光掉幅、误伤数、撤销后类是否回来。
不要用「用户按了不喜欢所以类应该少」当成功。成功要按用户事后划定的范围来,而不是按模型自己传开的半径。
边界
安全拒绝应当传开,这是另一条通道。用户连续多次对同类高质量条目拒绝,升级到类是合理的,但要可见、可回。物品没有细类、只有粗糙大类时,任何类级更新都偏广,更应停在条目或作者。这条管过广传播,不把情绪语义再讲一遍,也不把即时可见当成已经防过广——当场消失的可能正是整类。
怎么落地
- 一次拒绝默认只更新条目(加作者,若用户选了作者)。类级更新要次数阈值或二次确认,并沿标签树设置传播上限。
- 撤销必须把类级权重一起滚回来,不只把那一行插回列表。
- 验证:在喜欢犯罪剧的测试账号上拒一部烂片,看一周内犯罪类曝光。若主推剧一起没了,传播过广。加上阈值后再拒一次,主推应还在。