谁有权定义安全？——生成式AI研究中如何应对青少年在线安全的系统性综述

文献标题

Who Gets to Define Safety? A Systematic Review of How Generative AI Research Addresses Youth Online Safety

出版信息

• 主题领域: 生成式人工智能系统中的青少年在线安全
• 关键词: 生成式人工智能、青少年安全、在线风险、参与式设计、人工智能伦理、人机交互、发展心理学、多模态人工智能、风险评估、利益相关方参与

背景与问题

• 问题 / 挑战: 当前针对青少年在线互动的安全框架无法有效应对生成式人工智能（GenAI）带来的独特风险，例如虚假信息、情感依赖以及偏见输出。现有研究通常将安全定义为一种技术特性，而非一种关系性或发展性问题。
• 重要性: 随着生成式人工智能系统越来越多地嵌入青少年的数字生活中，解决安全问题至关重要，以防止社会技术性伤害并确保系统支持青少年的发展和情感需求。
• 动机与相关工作: 以往关于青少年在线安全的研究强调参与式方法和情境化风险评估，但生成式人工智能研究主要集中于技术指标，缺乏有意义的青少年参与。本文通过系统性回顾生成式人工智能研究中青少年安全的概念化、研究和评估方式来弥补这些空白。

解决方案

• 提出的方法: 对30篇生成式人工智能研究（2014–2025）进行系统性回顾，分析青少年安全的定义、优先考虑的风险以及在生成式人工智能生命周期中如何评估安全性。
• 创新点:
  1. 系统性总结生成式人工智能研究中风险定义、评估实践和利益相关方参与的不足。
  2. 引入青少年在线安全的工作定义，将其作为一种社会技术性构造，强调发展一致性、社会意识和青少年自主性。
  3. 提出基于生命周期的多利益相关方参与议程，倡导跨学科合作和青少年参与。
• 过程与关键技术:
  • 使用PRISMA指南对五个数据库（ACM Digital Library、Web of Science、IEEE Xplore、ACL Anthology、arXiv）进行系统文献回顾。
  • 采用反思性主题分析对30篇研究进行分析，识别利益相关方参与、风险优先级和评估方法的模式。
  • 适配Roger Hart的青少年参与阶梯模型，评估研究中青少年参与的深度。

结果

• 具体发现:
  • 大多数研究（N=26）由人工智能研究人员撰写，青少年发展专家的参与有限。
  • 研究的风险主要集中于信息性风险（例如虚假信息、偏见），对人际关系、心理或隐私相关的危害关注较少。
  • 安全评估主要是反应性的，发生在系统部署后，青少年参与仅限于咨询阶段。
• 相较基线的优势: 强调参与式、以发展为基础的安全方法，与当前生成式人工智能研究中以系统为中心、技术导向的重点形成对比。
• 实验 / 评估:
  • 青少年参与在大多数研究中（N=15）仅限于伪参与角色，仅有一项研究达到共同决策（Hart阶梯第6级）。
  • 研究场景主要集中在正式环境（例如教育、健康），对社交媒体和游戏等非正式空间关注不足。
  • 文本生成式人工智能模式被过度代表，而多模态系统（例如图像、音频、视频）研究较少。
• 局限性与未来工作:
  • 缺乏针对青少年的风险分类和发展框架。
  • 对非正式生成式人工智能互动和多模态风险的探索不足。
  • 未来工作应关注早期阶段的参与式设计、纵向评估以及跨学科的安全框架。

总结

本文系统性回顾了生成式人工智能研究中青少年在线安全的处理方式，揭示了利益相关方参与、风险概念化和评估实践中的显著不足。当前方法主要是技术性和反应性的，较少关注青少年的发展和关系性需求。作者提出了一种参与式、多利益相关方的议程，将安全重新定义为一种社会技术性构造，并倡导以青少年为中心、以发展为导向的框架。这些发现强调了跨学科合作和主动安全评估的重要性，以确保生成式人工智能系统支持青少年的福祉和自主性。