组织的重要性：生成式人工智能红队实践组织动态的定性研究

生成式人工智能在各个领域的快速集成凸显了红队测试在主动识别和降低相关风险方面的关键需求。虽然先前的研究主要关注技术方面，但本文强调了在真实组织环境中导致红队测试失败的组织因素。通过对来自不同组织的15名红队成员进行半结构化访谈的定性分析，我们发现了一些挑战，包括弱势红队成员的边缘化、人工智能对弱势用户造成的细微风险在部署后才会显现，以及缺乏以用户为中心的红队方法。这些问题通常源于潜在的组织动态，包括组织阻力、组织惯性和平庸组织。为了减轻这些动态，我们讨论了用户研究对红队测试的意义，以及将红队测试嵌入生成式人工智能系统整个开发周期的重要性。