理解教育工作者对AI生成非自愿亲密图像的看法

文献标题

Understanding Educators’ Perceptions of AI-generated Non-consensual Intimate Imagery

出版信息

• 主题领域: 教育环境中人工智能滥用的伦理与社会挑战
• 关键词: AI伦理、生成式AI、非自愿亲密影像（AIG-NCII）、教育工作者、学校、网络欺凌、数字素养、政策制定、学生福祉

背景与问题

• 问题/挑战: 人工智能生成的非自愿亲密影像（AIG-NCII）的兴起在教育环境中引发了显著的心理、社会和伦理挑战。学校缺乏明确的政策、培训和资源来有效应对这一问题。
• 重要性: AIG-NCII可能损害学生的道德发展、社会关系、心理健康和学业表现，同时也威胁教育工作者的职业声誉。解决这一问题对于营造安全的学习环境和促进人工智能的伦理使用至关重要。
• 动机与相关研究: 现有研究主要探讨了公众对AIG-NCII的看法以及技术和法律框架，但尚未关注教育工作者的观点或学校在基础设施和程序上的需求。本研究旨在填补这一空白，通过放大教育工作者的声音并识别可操作的措施。

解决方案

• 提出的方法: 对20位美国教育工作者进行访谈研究，探讨他们对AIG-NCII的态度、经验和实践，并识别当前学校应对措施和教育框架中的不足。
• 创新性:
  1. 首个聚焦于教育工作者对学校中AIG-NCII看法的定性研究。
  2. 识别政策、培训和资源方面的系统性挑战和不足。
  3. 提出涉及教育工作者、家长、政策制定者和技术公司在内的多方合作策略建议。
• 程序和关键技术:
  • 通过社交媒体和个人网络招募参与者；样本涵盖性别、种族和地理位置的多样性。
  • 半结构化访谈，探讨关切、实践、建议措施及实施挑战。
  • 对访谈记录进行主题分析，以识别模式和主题。

结果

• 具体发现:
  • 8名参与者报告了学校中的AIG-NCII案例；大多数事件涉及男性学生针对女性同学或教育工作者。
  • 教育工作者表达了对学生道德滑坡、声誉损害、情感困扰和学业困难的担忧。
  • 很少有学校制定明确政策；大多数缺乏培训、报告协议或预防措施。
• 相较基线的优势: 突出了教育工作者作为AIG-NCII目击者和潜在缓解者的独特视角，弥补了以往研究中专注于技术或法律解决方案的空白。
• 实验/评估:
  • 对来自10个州的20位教育工作者进行访谈；主题分析中识别出143个编码和21个主题。
  • 参与者年龄范围为25至63岁，平均教学经验为7.35年。
• 局限性与未来工作:
  • 研究结果可能无法推广到未意识到AIG-NCII的教育工作者或非美国背景。
  • 数据依赖于自我报告的看法；未验证具体案例或政策文件。
  • 未来研究应探索更大规模的调查、跨学科研讨会以及文化差异。

总结

本研究调查了教育工作者对学校中人工智能生成的非自愿亲密影像（AIG-NCII）的看法，强调了其对学生和教育工作者的心理、社会和伦理影响。研究发现学校政策、培训和资源存在显著不足，教育工作者呼吁全面的人工智能伦理教育、明确的报告协议以及多方协作。建议包括设计数字伦理课程、家长参与、知识共享平台和问责框架。通过放大教育工作者的声音，本研究为生成式人工智能滥用的HCI讨论做出贡献，并提供了保护教育环境中青少年的可操作策略。