V7.06.3Cost of harassment设计研究

设计决定了骚扰的成本

别名: 骚扰成本 · 反骚扰设计 · abuse friction

概念解释

骚扰成本(cost of harassment)是平台设计让攻击者为寻找目标、重复接触、扩大传播和规避限制所需付出的时间、资源、可见风险与后果。设计不会决定是否有人恶意,却能决定恶意行为有多容易扩散、受害者承受多少防护负担。

机制

一键私信、无限提及、默认公开和无摩擦新账号降低攻击的规模成本;算法放大和围攻功能又扩大回报。相反,速率限制、受众控制、身份摩擦和及时后果会提高重复伤害成本。设计若把屏蔽、取证和举报成本全放在受害者一侧,就奖励攻击者的低成本策略。

怎么研究

  • 范式:威胁建模与红队走查攻击路径,分析接触、扩散、封禁规避与保护工具使用。
  • 变量:接触频率、账号重建、传播、举报、保护耗时、复发和误伤。
  • 方法论注意点:单一攻击者指标会遗漏协调围攻;也要检验防护摩擦是否伤害正常新用户。

边界

提高摩擦会影响合法参与、隐私和可访问性,不能把所有陌生联系都当作威胁。措施应按风险、关系与行为升级,且保留申诉。

怎么落地

  • 默认限制陌生接触、批量提及和重复创建,给予用户受众与速率控制。
  • 将取证、屏蔽和报告整合到一次操作,避免受害者反复暴露。
  • 对反复违规施加渐进、可审查的限制,并保护旁观者免受传播。
  • 验证办法:模拟攻击链,比较攻击者扩大范围所需成本与受害者停止接触所需成本。

延伸

  • 同组V7.06.1 骚扰的承受者需要即时的自我保护工具 · V7.06.2 举报后的处理时效决定工具可信度
  • 相邻V7.05 举报、申诉与救济 · V7.02 身份与匿名
  • 站内检索cost of harassment · abuse friction · safety by design

同组卡片

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/handbook/V7.06.3