技术工作者如何应对生成式AI拟人化特性的危险

文献标题

How Tech Workers Contend with Hazards of Humanlikeness in Generative AI

出版信息

• 主题领域: 人机交互与负责任的人工智能，聚焦于具有人类特征的生成式人工智能的风险。
• 关键词: 生成式人工智能，人类特征，拟人化，社会技术危害，技术工作者，负责任的人工智能，人机交互，认知挑战，风险缓解，概念映射。

背景与问题

• 问题/挑战: 具有人类特征的生成式人工智能的快速采用带来了诸如过度信任、操控和社会技术危害等风险。目前的行业标准缺乏明确的指导来识别和缓解这些风险。
• 重要性: 理解和应对这些风险对于负责任的人工智能开发至关重要，以确保安全性、信任度以及在工作流程和社会中的有效整合。
• 动机与相关工作: 先前的研究探讨了人工智能中的拟人化和人类特征设计，但尚未充分研究技术工作者如何感知和应对这些风险。本文旨在通过聚焦工作者的经验和对人类特征的概念化来填补这一空白。

解决方案

• 提出的方法: 对技术工作者对具有人类特征的生成式人工智能及其相关风险的感知进行定性研究，并最终构建一个概念映射来阐明这些风险。
• 创新性:
  1. 区分“人类特征”和“拟人化”，解决了先前研究中对两者的混淆。
  2. 基于技术工作者的经验，识别出具有人类特征的生成式人工智能的六种具体危害。
  3. 提出一个概念映射，将人类特征与潜在风险和危害联系起来。
  4. 强调在风险缓解中需要角色特定的指导和跨职能支持。
• 过程与关键技术:
  • 对30名来自美国的技术工作者（涵盖六种职位角色，如机器学习工程师、产品经理、用户体验研究员）进行焦点小组讨论。
  • 使用主题分析法识别工作者对人类特征及其相关风险的概念化。
  • 将研究结果综合为一个概念映射，区分人类特征、风险和拟人化。

结果

• 具体发现:
  • 工作者识别出具有人类特征的生成式人工智能的六大关键危害：额外劳动、不匹配的信任、可信内容、用户体验恶化、人工智能素养差异以及工作者替代。
  • 工作者通过交互动态、对话输入、人类化输出、任务复杂性以及拟人化倾向来概念化人类特征。
• 相较基线的优势: 提供了对人类特征危害的细致理解，超越了对拟人化的简单化观点，并为负责任的人工智能开发提供了可操作的洞见。
• 实验/评估:
  • 对30名来自不同角色和组织规模的参与者进行焦点小组讨论。
  • 对讨论记录进行主题分析，以识别工作者的推理模式和风险感知。
• 局限性与未来工作:
  • 由于采用了目的性抽样和焦点小组讨论的动态，研究结果的普适性有限。
  • 研究可能未能涵盖所有技术角色或行业的完整视角。
  • 未来的研究应实证验证概念映射，并探索在不同背景下的风险缓解策略。

总结

本文研究了技术工作者如何感知和应对具有人类特征的生成式人工智能的风险，识别出六大关键危害以及对人类特征的多样化概念化。通过焦点小组讨论和主题分析，作者提出了一个将人类特征与潜在危害联系起来的概念映射，为负责任的人工智能开发奠定了基础。研究强调了需要更明确的指导、跨职能支持以及角色特定的策略来缓解风险，并指出将人类特征作为一个多维构造进行处理的重要性。