社交虚拟现实的监管挑战

文献标题

Challenges of Moderating Social Virtual Reality

文献信息

• 主题领域: 社会虚拟现实(Social VR)平台中的内容审核与用户行为管理
• 关键词: 内容审核, 转瞬社会空间, 虚拟现实, 虚拟民族志, 访谈, 用户行为

研究背景与问题

• 发现的问题或挑战:
  近年来，随着基于虚拟现实的社会平台的兴起，这些平台提供了通过语音、手势和空间互动进行实时沟通的功能。然而，内容的瞬时性和互动的沉浸性也使得有害行为更难被记录、监控和管理。这种新型互动形式使得传统社交媒体上的审核机制失效，同时也催生了新的破坏性行为。

• 研究的重要性:
  内容审核对于维护健康的在线社区至关重要，而虚拟现实平台由于其沉浸性和动态性引入了独特的潜在风险。例如，用户间的冲突不仅表现在言语上，还可能涉及“虚拟化身”的追踪、空间入侵甚至性骚扰等形式，这些行为都对用户的心理健康和社区安全造成威胁。

• 研究动机与相关工作:
  目前尚缺乏对这类实时社交空间中有害行为的系统性研究。在传统社交平台上已有针对内容审核的技术与研究，但它们大多基于非实时性内容（如文章、评论等）。也有针对语音社交（如Discord）的研究，但虚拟现实中加入的空间和身体维度引发了额外的问题，而现有的工具与实践无法完全匹配这些需求。

解决方案

• 方法与研究设计:
  作者采用了混合方法研究，分别从观察与访谈角度探讨社交虚拟现实中的审核挑战：

  • 第一部分: 通过虚拟民族志观察了100场在不同虚拟现实平台（AltspaceVR、Horizon Worlds和Rec Room）上组织的公开活动，记录用户的行为与审核的响应情况。
  • 第二部分: 与11名AltspaceVR的志愿审核员进行半结构化访谈，探索他们的审核经验、工具使用以及面临的困难。

• 创新之处:

  • 识别了13种虚拟现实独有的有害行为，涵盖语音、虚拟化身和平台赋能的不同机制。
  • 提出了一种改良后的审核框架，将原本的“惩罚性”扩展为“预防性”、“协助性”和“惩罚性”相结合的模式，帮助更好地应对实时性和内容的瞬时性带来的挑战。

• 实施步骤及关键技术:

  • 观察行为：记录100场跨平台活动中的有害行为（如追踪、声音干扰等）及相应的应对措施。
  • 编码与分类：通过归纳分析法对观察与访谈数据进行开放式编码，总结出若干关键主题。
  • 审核框架改进：结合观察与访谈结果，提出用于优化虚拟现实平台审核的工具与方法建议，如开放空间设计、实时监听和团队协作模型等。

研究成果

• 具体成果：

  • 研究发现，几乎半数（45%）的观察事件中出现了有害行为，其中包括语音干扰、追踪化身、模拟暴力和儿童存在的色情内容分享等。
  • 在有害事件发生的场景中，只有24%的情况得到了及时的审核员响应，进一步突显了工具和方法的局限性。
  • 通过访谈发现，审核员倾向于采取预防措施，如更好地布局虚拟空间以提高可视性，以及通过世界设计或策略定位化身来增强用户对审核员存在的感知。

• 与现有解决方案的比较与优势：

  • 传统内容审核框架通常基于“事后处理”的逻辑（ex-post），而作者提出的框架融合了“事前预防”“现场协助”和“事后惩罚”三重视角，特别适合实时性互动平台。
  • 提出了为应对虚拟平台特定问题的创新解决方案，如动态调整模块化规则显示、以队伍形式分工覆盖大面积空间状况等。

• 实验或评估结果：

  • 在观察100场活动时，作者发现当前虚拟现实社区中的审核工具（如禁言按钮、举报机制）在大多数情况下未得到充分利用。即使存在审核员，他们的空间与听觉限制也使得难以及时响应。

• 局限性与未来方向：

  • 研究主要集中于观察公开活动，尚未涉及小型、私密事件中的互动行为。
  • 招募的审核员全为AltspaceVR上活动的志愿者，研究结果在不同平台间的可推广性仍需验证。
  • 未来研究可以重点探讨儿童主导的审核实践、增强现实平台的对应机制以及自动化审核技术的拓展。

总结与启示

这项研究为解决社交虚拟现实平台中内容审核的难题提出了新的见解：通过整合预防、协助和实时处理的多视角框架，并提供针对平台设计、审核工具和团队协作的新颖建议。研究强调，随着虚拟现实技术和平台复杂性的提高，审核方法也需与时俱进，增加工具的灵活性和决策的多元化，以更好地维护社区健康并保护用户安全。