去中心化社交媒体中人工智能的态度、想象角色与治理边界

文献标题

Attitudes, Imagined Roles, and Governance Boundaries for AI in Decentralized Social Media

出版信息

• 主题领域: 去中心化社交媒体平台中的人工智能治理
• 关键词: 去中心化社交媒体, 人工智能治理, 内容审核, 联邦网络, 社区规范, 情境智能, 透明性, 数据治理, 人类问责, Fediverse

背景与问题

• 问题/挑战: 去中心化社交媒体（DSM）平台面临显著的治理负担，包括内容审核、冲突解决以及跨实例的伤害管理，目前这些任务主要由志愿运营者负责。人工智能在支持这些任务中的潜在角色尚不明确，尤其是在价值敏感和联邦化的背景下。
• 重要性: 解决DSM中的治理挑战对于维持这些平台的可持续性至关重要，这些平台为企业社交网络提供了由社区驱动的替代方案。人工智能可能缓解部分负担，但其整合必须符合DSM去中心化和社区特定的价值观。
• 动机与相关工作: 先前关于集中化平台中人工智能的研究揭示了偏见、误分类和透明性不足等问题，这些问题对边缘化社区造成了不成比例的伤害。尽管在去中心化环境中对人工智能的技术探索已有所研究，但DSM运营者对人工智能角色和治理边界的看法仍未被充分探讨。

解决方案

• 提出的方法: 本研究通过对来自多个平台（如Mastodon、Pixelfed、PeerTube）的20位运营者进行半结构化访谈，调查了他们对人工智能的态度、设想的角色以及治理边界。
• 创新点:
  1. 提供了首个关于DSM运营者对人工智能看法的深入定性分析。
  2. 确定了人工智能在DSM治理中的潜在角色，包括情境智能、联邦层面的协调以及社区福祉支持。
  3. 阐明了DSM中人工智能的治理原则，强调人类问责、透明性以及社区特定的定制化。
• 程序和关键技术:
  • 使用生成性特征探针和推测性场景进行了20次半结构化访谈。
  • 探讨了运营者对人工智能的态度、潜在角色以及治理机制的看法。
  • 通过主题编码分析访谈记录，提取关键见解。

结果

• 具体发现:
  • 运营者将人工智能设想为治理基础设施，而非自主决策者。
  • 期望的角色包括提供情境智能、支持跨实例协调以及增强社区和审核者的福祉。
  • 治理边界包括人类问责、可逆性、透明性、以社区为中心的定制化以及严格的数据治理约束。
• 相较基线的优势:
  • 与集中化平台不同，DSM中的人工智能必须符合去中心化的价值观，允许实例特定的规范并避免重新集中化。
• 实验/评估:
  • 对来自六个国家和平台的20位DSM运营者进行了访谈。
  • 探针包括近期的功能创意（如内容标记、可解释性）和推测性场景（如人工智能处理敏感帖子）。
• 局限性与未来工作:
  • 样本规模有限（20名参与者），地理范围集中于欧洲和北美。
  • 研究重点在运营者，而非终端用户或技术可行性。
  • 未来工作应探索多样化的语言和文化背景、社区层面的动态以及实施障碍。

总结

本研究通过对20位运营者的访谈，探讨了人工智能在去中心化社交媒体（DSM）中的潜在角色和治理边界。参与者拒绝将人工智能视为自主决策者，而是将其设想为提供情境智能、支持跨实例协调以及增强社区和审核者福祉的治理基础设施。研究确定了严格的治理原则——人类问责、透明性、可逆性和社区特定的定制化——作为关键要素。研究结果强调了人工智能系统需要与DSM的去中心化、联邦化和价值敏感特性相一致，并为这些平台中负责任的人工智能整合提供了设计启示。