赋能创作者对抗网络仇恨：人工智能介导反言论工具的定性探索

内容创作者因公开可见性和数字空间中日益增长的敌意而面临更高的在线伤害风险。传统的审核工具，如举报和删除，往往不足以应对在线仇恨的情感和声誉影响。在本研究中，我们探索了社区驱动的方法（如反言论）如何支持创作者应对仇恨评论，以及人工智能工具如何在这一过程中提供帮助。我们对中国社交媒体平台的15位活跃内容创作者进行了定性访谈和概念测试，以了解他们的经验和期望。我们的研究发现，创作者的反言论方法受其专业角色、维护真实性的需要以及受众管理压力的影响。虽然创作者认为人工智能辅助反言论可以提高效率和改善语气，但他们担心被误解、失去控制以及意外的伤害。他们更青睐能增强而非取代其声音的人工智能工具，并强调在情感细腻性和可扩展性之间取得平衡的重要性。这些见解为设计以创作者为中心的人工智能审核工具提供了参考，该工具整合了人的能动性和情境敏感性，有助于打造更健康、更可持续的在线环境。