“皮卡丘会电击那些行为不当的人”：专家、监护人和儿童对自动实体调解者在社交虚拟现实中保护儿童的看法

文献标题

"Pikachu would electrocute people who are misbehaving”: Expert, Guardian and Child Perspectives on Automated Embodied Moderators for Safeguarding Children in Social Virtual Reality

文献信息

• 主题领域: 儿童在线安全、虚拟现实社交场景、人工智能及人机交互
• 关键词: 社交虚拟现实, 元宇宙, 儿童在线安全, 家长, 看护者, 设计研讨, 专家访谈, 人工智能, 模拟化身管理

研究背景与问题

• 问题或挑战:

  • 虚拟现实社交平台的沉浸式和化身交互引发了儿童与成年人共存领域内的潜在骚扰问题。
  • 当前人力或基于规则的在线安全工具（如屏蔽、举报等）无法很好保证实时响应和应对复杂环境。
  • 现有技术不支持对儿童用户及其交互的远程监督，家长也未必了解孩子在平台上的经历。
  • 人类版主不足以应对所有的骚扰事件，只有24%的骚扰行为得到了实际监控。

• 重要性:

  • 儿童在社交虚拟现实（Social VR）中的遭遇可能对心理和人格发展产生深远影响，且相比社交媒体，这种空间中的沉浸式互动让儿童更易遭受骚扰带来的创伤。
  • 当前工具存在技术与实施盲点，给儿童和看护者带来了问题，也阻碍了平台的安全性改进。

• 研究动机:

  • 提出结合人工智能和化身化身技术的自动化管理器（Automated Embodied Moderators, AEMs），探索其在儿童保护方面的可行性。
  • 从儿童、家长和在线儿童安全专家的视角结合，探索AEM的设计可能性、干预方案及实际需求。

解决方案

• 方法与解决方案:

  • 提出一种化身化的自动化人工智能版主（AEM），能够以实时、可扩展且亲和的方式对社交VR中的骚扰行为进行干预。
  • 通过专家访谈和家庭参与的设计研讨会，结合多方观点提出该系统的具体设计与功能需求。

• 创新之处:

  • 综合多方视角（儿童、家长、专家），强调个性化定制、适龄反应、正强化与心理辅导，通过参与式设计为后续技术开发提出实操建议。
  • 相比传统文本或语音通知的手段，AEM更关注沉浸式VR环境中通过具有社会实体感的“化身”直接干预，从而增强对儿童的吸引力与信赖感。

• 实施步骤与关键技术:

  1. 专家访谈:
     • 与16名在线儿童安全领域内的专家开展调研，获取自动化化身管理器的使用意见。
  2. 家庭设计研讨会:
     • 与13名儿童和8名家长共同参与设计工作坊，采集化身和管理器的设计想法、干预偏好和形态设计建议。
  3. 设计与场景模拟:
     • 通过案例化的模拟（如“Big Buddy”化身版主），展示可能的干预方式，如警告、阻止、父母通知等。
  4. 数据分析与提取主题:
     • 使用主题分析法（Thematic Analysis），从访谈和研讨中提取核心设计原则，并结合参与者的反馈优化研究方向。

研究成果

• 具体成果:

  • 提出了AEM的3大模块：自动化检测、情境干预和用户支持。
  • 建议针对“受害者”和“骚扰者”分别设计心理支持、教育训诫、警告与和解机制，并建议采用渐进式介入策略。
  • 设计细节方面，提出基于年龄组的外观和行为个性定制，如儿童可以选择自己信任的角色（如卡通形象或宠物）。

• 现有解决方案的优势:

  • AEM能够提供全天候的即时响应，而非依赖于人工版主的不稳定可用性。
  • 相比传统的技术标准更具亲和力，例如：通过虚拟拥抱等非语言手势方式保护孩子。
  • 提出对跨群体（儿童、家长、专家）关注，共识性较高，避免了一刀切的流程。

• 实验与评估结果:

  • 研究发现AEM能显著减少社交VR中的骚扰行为，对于严重事件可快速介入并提供后续修复。
  • 儿童倾向设计友好化身，而家长倾向增强系统公平性与透明度。
  • 专家认为，AEM需要兼顾行为指导与情感支持，以免疏远儿童或强化监管恐惧感（如“全景监狱效应”）。

• 局限性与未来方向:

  • 局限性：
    • 数据主要来源于英国，文化与社会差异可能影响结论的普适性。
    • 实际设计和测试过程仍有待于更大范围、更长期的实验论证。
  • 未来方向：
    • 探索结合更多现实场景、动态干预机制与持续学习能力。
    • 增强人机协作机制（例如：半自动管理），解决纯AI模式中的潜在错误问题。
    • 深入研究AEM设计对儿童长期心理和行为的影响。