Q3.05.3Interaction effect interpretability设计研究
交互效应比主效应更难解释
别名: 交叉交互 · 简单效应 · crossover interaction
概念解释
交互说的是一个因素的效果随另一因素的水平而变,而不是“两个因素都有用”。主效应是对其他因素取平均后的边际差,句子仍是“A 更好”;交互迫使句子变成“A 好不好取决于 B”。因此读交互不能停在系数是否显著,而要回到各水平上的简单效应和格子均值。交叉交互尤其危险:边际上几乎看不出差异,组合上却方向相反。
机制
可加模型把每个因素的贡献当成可平移的主效应。交互是对这一可加性的偏离:同一按钮在紧迫文案下促转化、在中性文案下却降低信任。把格子对 B 平均后,方向相反的简单效应会互相抵消,主效应接近零,于是报告写成“颜色无所谓”——决策依据已经消失。三因素交互还要求“取决于另外两个因素的组合”,人很难把三维切片压成一条可执行规则,于是容易改口成“都很重要”,等于没有解释。
怎么研究
先画格子均值和简单效应,再看交互项。预先规定何种交互会改变上线规则:同向加强、衰减,还是翻转。对翻转交互,分别估计每个水平上的简单效应及其区间,而不是只报一个交互 p 值。高阶交互默认当噪声,除非实验前指定了有机制的切片。用独立的验证流量或后续单因素实验,检查被选中的简单效应是否仍在。
边界
交互难解释不等于应当忽略。若产品逻辑就是条件策略——新用户与老用户看到不同默认项——简单效应才是目标,边际主效应反而不该当结论。探索性的大量交互筛查会把噪声切片当成故事。当因素水平是方便编码而非有意义的状态,交互可能只是实现瑕疵。效应量很小的显著交互通常撑不起分支产品。
怎么落地
- 汇报时先给格子表或交互图,再用一句话写出“在 B 的哪个水平上,A 朝哪边变”。
- 若简单效应方向相反,停止发布“平均更好”的那个水平,改为按条件分流或放弃该因素。
- 禁止把三阶以上交互写进对业务的口头结论,除非事先有机制假设并有足够格子人数。
- 把被选中的条件效应单独做一次后续实验;不能复现就撤回组合故事。