人工智能生成内容的治理：社交媒体平台案例研究

文献标题

Governance of AI-Generated Content: A Case Study on Social Media Platforms

出版信息

• 主题领域: 社交媒体平台上AI生成内容的治理框架。
• 关键词: AI生成内容, 社交媒体治理, 内容审核, 生成式AI, 平台政策, AI披露, 用户生成内容, 深度伪造, AI工具, 内容标注。

背景与问题

• 问题/挑战: 社交媒体平台上AI生成内容的迅速增加引发了对可信度、作者身份、版权以及社区安全的担忧。现有的治理机制通常不足或不一致，对平台驱动的治理响应的理解也有限。
• 重要性: 有效的治理对于确保安全可信的在线环境、保护用户权益以及应对如虚假信息、深度伪造和低质量AI生成内容等新兴风险至关重要。
• 动机与相关研究: 先前的研究探讨了AI生成内容对在线社区的影响以及自下而上的治理方法（例如Reddit），但对平台驱动的自上而下的治理研究较少。本研究旨在通过系统分析40个主要社交媒体平台的治理实践来填补这一空白。

解决方案

• 提出的方法: 系统分析40个流行社交媒体平台的AI生成内容治理，重点关注政策、执行策略和用户资源。
• 创新点:
  1. 创建一个关于平台对AI生成内容响应的注释数据集。
  2. 确定六种AI生成内容的治理方法。
  3. 提出更明确、全面和前瞻性的治理框架建议。
• 程序与关键技术:
  • 基于流行度和多样性选择40个具有代表性的社交媒体平台。
  • 通过网络爬取和人工整理2,518个页面，筛选出来自29个平台的361个明确涉及AI生成内容的页面。
  • 使用从先前内容审核框架中提取的结构化代码本对治理行动进行主题分析。

结果

• 具体发现:
  • 40个平台中有27个明确治理AI生成内容，而13个依赖现有政策但未具体提及AI。
  • 确定了六种治理方法：
    1. 审核违反现有政策的AI生成内容（25个平台）。
    2. 披露和标注AI生成内容（18个平台）。
    3. 限制AI生成内容的发布和分享（5个平台）。
    4. 限制AI生成内容的货币化（6个平台）。
    5. 控制集成AI工具的输出生成和分发（14个平台）。
    6. 教育和赋能用户了解AI生成内容（17个平台）。
  • 集成AI工具的平台通常优先考虑工具输出及其分发的安全措施。
• 相较基线的优势:
  • 提供了首个跨平台的AI生成内容治理分析，识别了当前实践中的差距和不一致。
  • 突出了需要针对质量、所有权和用户赋能的定制化治理策略。
• 实验/评估:
  • 对来自29个平台的361个页面进行数据分析。
  • 对治理行动进行主题编码，重点关注规则定义、检测方法和执行。
• 局限性与未来工作:
  • 数据仅代表一次性快照，未涵盖较小的平台或非公开文档。
  • 未来工作应包括纵向研究、深入的平台特定分析以及对治理机制的评估。

总结

本研究系统性地分析了40个流行社交媒体平台如何治理AI生成内容，识别出六种治理方法，从审核不当内容到通过工具和教育赋能用户。尽管三分之二的平台明确涉及AI生成内容，但政策往往不一致且缺乏全面框架。集成AI工具的平台倾向于强调工具输出的安全性和控制。研究发现揭示了披露标准、检测可靠性以及质量和所有权治理方面的显著差距。建议包括采用明确政策、改进检测和标注系统以及提供用户教育和控制。这些见解为在线空间中AI生成内容的未来治理策略提供了参考。