什么是安全？企业话语、权力与生成式人工智能安全的政治学

文献标题

What is Safety? Corporate Discourse, Power, and the Politics of Generative AI Safety

出版信息

• 主题领域: 对生成式人工智能安全的企业话语进行批判性分析。
• 关键词: 人工智能安全、企业话语、生成式人工智能、问责、治理、社会技术系统、批判性话语分析、权力动态、人工智能素养、参与式治理。

背景与问题

• 问题/挑战: 生成式人工智能中的“安全”概念主要由企业主体定义和传播，通常服务于其自身利益。这种框架可能会再现企业优先事项，限制替代性治理方法，并掩盖权力动态。
• 重要性: 理解“安全”在企业话语中的构建方式对于应对社会影响、确保问责制以及促进公平的人工智能治理至关重要。
• 动机与相关工作: 现有研究已探讨了人工智能的安全风险、缓解策略及其社会技术维度。然而，关于企业叙事如何塑造公众理解、研究优先级和治理框架的关注较少。本文聚焦于分析企业安全话语，以揭示其中隐含的权力关系及其政治影响。

解决方案

• 提出的方法: 对三大生成式人工智能公司（OpenAI、Google 和 Anthropic）发布的与安全相关的公共文档进行批判性话语分析（CDA）。
• 创新性:
  1. 将“安全”定位为需要批判性审视的社会技术话语。
  2. 分析企业主体如何构建权威、分散问责制并框定风险。
  3. 突出企业安全叙事对人工智能治理的政治影响。
  4. 提出人工智能素养和治理的批判性话语维度。
• 程序与关键技术:
  • 选择来自 OpenAI、Google 和 Anthropic 的 75 篇与安全相关的文档。
  • 使用批判性话语分析方法，审视安全话语的结构性、细节性和综合性维度。
  • 识别责任、治理、风险缓解、权威构建及修辞策略（如隐喻、全球框架）等主题。

结果

• 具体发现:
  • 责任被描述为分布在公司、用户和政府之间，但对伤害的问责仍然模糊。
  • 治理强调内部结构和选择性监管合作，呼吁“精准”监管以避免抑制创新。
  • 风险被框定为广泛且不断演变的，需要通过红队测试和用户反馈等迭代缓解实践来应对。
  • 权威通过技术专长、伦理定位和机构安排得以构建。
  • 安全被描绘为动态且具有全球意义，并借用高风险领域（如核能、航空）的隐喻。
• 相较基线的优势: 提供了对企业安全叙事的批判性视角，揭示其如何塑造公众理解和治理，同时掩盖权力动态和问责缺口。
• 实验/评估:
  • 使用 CDA 分析 75 篇公共文档。
  • 识别三家公司话语中的重复主题和修辞策略。
  • 将企业叙事与更广泛的社会技术和治理框架进行比较。
• 局限性与未来工作:
  • 聚焦于公共文档，未涵盖内部实践和非正式讨论。
  • 仅限于三大公司，扩展数据集可能揭示更多模式。
  • CDA 的解释性特征；补充方法（如调查、实验）可评估受众的感知。
  • 需要纵向研究以追踪企业话语的演变。

总结

本文批判性地分析了领先的生成式人工智能公司如何通过公共文档构建和传播“安全”概念。通过批判性话语分析，揭示了公司如何框定责任、治理和风险，同时构建权威并分散问责制。研究结果突出了企业安全叙事的政治影响，表明其如何塑造公众理解和治理，同时限制外部监督。本文通过提出批判性话语维度为人工智能素养做出贡献，并通过揭示参与性修辞和企业框架的表演性特质为人工智能治理提供了洞见。