V7.06.3Cost of harassment设计研究
设计决定了骚扰的成本
别名: 骚扰成本 · 反骚扰设计 · abuse friction
概念解释
骚扰成本(cost of harassment)是平台设计让攻击者为寻找目标、重复接触、扩大传播和规避限制所需付出的时间、资源、可见风险与后果。设计不会决定是否有人恶意,却能决定恶意行为有多容易扩散、受害者承受多少防护负担。
机制
一键私信、无限提及、默认公开和无摩擦新账号降低攻击的规模成本;算法放大和围攻功能又扩大回报。相反,速率限制、受众控制、身份摩擦和及时后果会提高重复伤害成本。设计若把屏蔽、取证和举报成本全放在受害者一侧,就奖励攻击者的低成本策略。
怎么研究
- 范式:威胁建模与红队走查攻击路径,分析接触、扩散、封禁规避与保护工具使用。
- 变量:接触频率、账号重建、传播、举报、保护耗时、复发和误伤。
- 方法论注意点:单一攻击者指标会遗漏协调围攻;也要检验防护摩擦是否伤害正常新用户。
边界
提高摩擦会影响合法参与、隐私和可访问性,不能把所有陌生联系都当作威胁。措施应按风险、关系与行为升级,且保留申诉。
怎么落地
- 默认限制陌生接触、批量提及和重复创建,给予用户受众与速率控制。
- 将取证、屏蔽和报告整合到一次操作,避免受害者反复暴露。
- 对反复违规施加渐进、可审查的限制,并保护旁观者免受传播。
- 验证办法:模拟攻击链,比较攻击者扩大范围所需成本与受害者停止接触所需成本。