DeMod：一种具有可解释检测和个性化修改功能的毒性审查综合工具

尽管已有自动化方法和支持社交帖子毒性审查的工具，但大多数只关注检测。毒性审查是一个复杂的过程，检测只是初始任务，用户可能还有进一步的需求，如理解理由和内容修改。针对这个问题，我们进行了一项需求发现研究，以调查人们在毒性审查中的多样化需求，然后据此构建了一个名为 DeMod 的基于 ChatGPT 的审查工具。DeMod 具备可解释检测和个性化修改功能，提供细粒度的检测结果、详细解释和个性化修改建议。我们还实现了该工具并招募了 35 名微博用户进行评估。结果表明 DeMod 具有多种优势，例如功能丰富性、审查准确性和易用性。基于这些发现，我们进一步提出了内容审查系统设计的若干见解。