可解释的审核在多人游戏中的应用：玩家对自动临时禁令解释的响应研究

文献标题

Explainable Moderation in Multiplayer Games: Player Responses to Explanations of an Automated Temporary Ban

出版信息

• 主题领域: 多人游戏自动化管理中的可解释人工智能。
• 关键词: 可解释人工智能、自动化管理、多玩家游戏、有害行为、公平性、情绪反应、玩家自主性、社区管理、透明度、行为改变。

背景与问题

• 问题/挑战: 当前多人游戏中的管理系统缺乏透明度，被处罚的玩家常感到困惑，无法获得行为改变的指导。现有的解释通常过于简单，无法满足玩家的信息需求。
• 重要性: 解决管理系统的不透明性问题可以改善玩家对公平性的感知、情绪反应，并可能促进行为改变，从而构建更健康的在线社区。
• 动机与相关研究: 先前研究强调了过度依赖自动化、惩罚性治理以及管理系统缺乏透明度的挑战。尽管可解释人工智能在提高透明度和公平性方面显示出潜力，但尚无系统性研究评估不同类型解释在多人游戏自动化管理中的效果。

解决方案

• 提出的方法: 评估六种自动化管理决策解释类型，包括行业标准方法和可解释人工智能方法，以分析其对公平性感知、情绪反应和实用性感知的影响。
• 创新点:
  1. 在多人游戏管理背景下，系统比较六种解释类型，包括新颖的可解释人工智能方法。
  2. 确定“提供证据的正当性”是改善公平性和情绪反应的关键因素。
  3. 通过反思性主题分析揭示玩家对管理和可解释性的四个核心主题。
  4. 提出将可解释性融入管理系统的设计建议。
• 研究过程与关键技术:
  1. 通过在线混合方法实验，招募了43名参与者。
  2. 评估六种解释类型：无正当性解释、基础解释、基于特征的解释、基于案例的解释、基于反事实的解释和基于探索的解释。
  3. 使用Likert量表、自我评估图示测试以及开放式问题测量公平性感知、情绪反应和实用性感知。
  4. 进行定量分析（Friedman检验和Wilcoxon符号秩检验）以及定性反思性主题分析。

研究结果

• 具体发现:
  1. 提供证据的正当性解释在公平性感知和情绪反应方面显著优于无正当性解释。
  2. 可解释人工智能方法在理解和控制感方面较基础解释略有优势，但未显著改善整体公平性或情绪反应。
  3. 基于探索的解释最受欢迎，其次是基于特征的解释。
• 相较基线的优势:
  • 正当性解释在公平性和情绪反应方面优于无正当性解释。
  • 基于特征的解释在理解方面优于基础解释。
  • 基于探索的解释增强了玩家的控制感。
• 实验/评估:
  • 参与者在一个受控场景中评估六种解释类型，该场景涉及因使用冒犯性语言而被暂时封禁的虚拟多人游戏。
  • 依赖变量包括公平性感知、情绪反应和实用性感知。
  • 收集并分析了定量和定性数据。
• 局限性与未来工作:
  • 女性和性别多样参与者的代表性不足，限制了研究的普适性。
  • 假设性实验情境可能无法完全反映真实玩家行为。
  • 未来研究应探索具体游戏中的玩家偏好，与玩家共同设计解释，并研究可解释性与可争议性之间的关系。

总结

本研究通过比较六种解释类型，评估了可解释性在多人游戏自动化管理系统中的作用。正当性解释显著改善了公平性感知和情绪反应，其中基于探索和基于特征的解释最受欢迎。然而，可解释人工智能方法相比基础解释仅提供了有限的优势。研究结果强调了正当性的重要性，并提出了将可解释性融入管理系统的设计建议，包括与社区价值观对齐、校准证据与沟通方式、促进玩家自主性以及多样化社区管理。这些洞察旨在促进更具包容性和透明度的玩家社区建设。