《“信任与安全”的终结？：探讨内容审查的未来及专业在线安全努力的动荡》

研究背景与问题

• 发现的问题或挑战：

  1. 自2021年至2023年期间，许多技术平台的信任与安全（Trust & Safety, T&S）团队遭遇了大规模裁员，同时也面临来自经济下行和政治压力的挑战。这种现象对内容审核、网络安全、虚假信息的传播控制等领域产生了严重影响。
  2. 社会和政治对T&S团队的看法不断恶化，尤其在美国，内容审核常被认为是对言论自由的“审查”和“偏见”。
  3. 缺乏公众对T&S工作真实作用的理解，并伴随广泛的资源削减，使这些团队变得更加脆弱。

• 问题的重要性：

  1. T&S团队是确保在线社区安全、控制平台滥用行为（例如儿童性虐待材料和诈骗内容）和打击虚假信息的关键。
  2. 内容审核减少可能使问题复杂化，例如虚假信息泛滥、网络骚扰和对弱势群体的攻击增加，尤其是在选举等关键事件中。
  3. 社会对内容审核的负面看法可能会削弱公众对数字平台的信任，并进一步阻碍相关政策或资源的支持。

• 研究动机与相关工作： 本研究以过去T&S领域的扩展和裁员为背景，结合社会对内容审核的认知和争论，探讨：

  1. T&S从业者如何在这一时期应对职业动荡和裁员的挑战。
  2. 内容审核作为在线安全手段的未来发展方向。

解决方案

• 提出的方法或解决方案： 作者通过20次深入访谈，探讨T&S从业者的职业经历、对内容审核的看法以及针对2024年美国总统选举的在线环境安全策略。

• 解决方案的创新之处：

  1. 系统总结T&S领域在过去几年中的动态变化，包括行业裁员及岗位转型。
  2. 探讨公众和立法机构对T&S工作误解的原因，并识别需要改进的措施。
  3. 强调T&S领域的专业化（professionalization）趋势，指出发展统一标准和提高透明度的重要性。

• 实施步骤与关键技术：

  1. 数据收集：从T&S从业者中招募访谈对象，确保多样性，涵盖政策制定、用户体验、内容审核管理、工程开发等多个角色。
  2. 数据分析：采用深度访谈，进行开放式编码和轴心编码，提炼关键主题。
  3. 归纳结果：总结T&S从业者的应对策略和对行业未来的看法，探索政策和技术解决方案。

研究成果

• 具体成果：

  1. 揭示广泛裁员对T&S行业与从业者的深远影响，例如职业倦怠增加和对行业未来的不确定性。
  2. 发现T&S领域正向专业化和多样化方向发展，包括更多咨询服务和短期合同工作。
  3. 强调公众对内容审核的看法存在偏差，并归因于透明度不足和政治化叙事。

• 与现有解决方案相比的优势：

  1. 从从业者的视角出发，捕捉T&S裁员对心理健康和职业发展的长期影响。
  2. 强调全球立法规制（如欧盟的在线安全法案）的推动作用，这为T&S团队提供了最低运营保证。

• 实验或评估结果：

  • 研究显示，尽管T&S工作被外界视为“成本中心”，从业者坚定认为其工作是平台长期成功和用户安全的基础。
  • 代表性从业者一致认为，加强立法规制和推动AI等新兴技术的应用可减轻内容审核的压力。

• 局限性与未来方向：

  1. 局限性：
     • 样本主要来自美国或服务于美国市场的从业者，其结果可能未能完全反映全球T&S领域的多样性。
     • 访谈数据的定性特性使其结果可能存在偏倚，未来需要更大规模的量化研究验证。
  2. 未来方向：
     • 探讨更广泛的跨文化视角，尤其是去殖民框架下的T&S领域。
     • 推进内容审核对平台利润和公共安全的实证研究，加强T&S政策与公司治理模型的对接。

总结

本研究详述了T&S领域的动态变化，包括经济动荡以及公众和政治对内容审核的分歧。尽管面临资源削减和外界压力，从业者仍然坚定认为在线安全工作至关重要。作者提出应通过推动专业化、提高行业透明度以及引入AI技术来强化T&S的作用。这为学术界、立法者和行业从业者提供了重要见解，有助于在经常变化的数字信息环境中确保安全和可靠性。