不要忘记教师：迈向以教育者为中心的理解大型语言模型在教育中的危害

研究背景与问题

• 作者发现了哪些问题或挑战？

  • 大规模语言模型（LLMs）正在迅速进入教育技术（EdTech），为教学和学习过程提供支持。然而，这些技术可能带来的潜在负面影响尚未深入研究，特别是在教育这一独特域领域。
  • 教育环境的特殊性包括：学生通常是儿童，尤其容易受到技术影响；学习目标不仅是获取正确答案，而是理解解决问题的过程；以及培养批判性思维和协作等跨场景高阶能力。
  • 教育技术供应商和教育工作者在理解和应对LLM可能引发的风险上存在差异，EdTech供应商主要关注技术性危害，而教育工作者更关注影响学生、教师及学校系统间互动的广泛影响。

• 为什么这个问题很重要？

  • LLM类技术将深刻影响未来的教育方式，与儿童的学习动态、隐私保护、社交发展及教育公平等多个关键方面紧密相关。
  • 现有针对LLM的风险分类通常是领域无关的，无法直接应用于教育领域，这需要针对教育特定情况建立新的框架。
  • 教育是不可自动化、甚至无法直接观察的复杂过程，需要更加谨慎的研究和实施。

• 研究动机与相关工作

  • 作者参考了既有的LLM风险分类，以及关于人工智能在教育中的伦理分析和实践研究。
  • 提出了一种方法，将教育工作者的视角引入技术设计过程，以缩小EdTech供应商和教育工作者之间的认知差距，从而更有效地减轻技术所带来的风险。

解决方案

• 作者提出了哪些方法或解决方案？

  • 通过与EdTech供应商（6名）和教育工作者（23名）的半结构化访谈，开发了一个针对教育领域的LLM潜在危害的综述框架。
  • 关键方法包括：
    1. 系统分析EdTech供应商和教育工作者如何认知、评估及减轻潜在危害。
    2. 突出二者关于危害理解上的差异。
    3. 建议围绕教育工作者需求设计和开发EdTech工具。

• 该解决方案的创新之处是什么？

  • 将现有领域无关的LLM风险分类，结合教育相关的具体危害（例如：对学生学习和社交发展、教师工作负担及教育公平的影响），形成一个教育特定的框架。
  • 引入教育工作者视角以优化EdTech工具设计，强调教育工作者的中介作用和参与式设计。
  • 提出跨学科的合作建议，包括EdTech供应商、研究人员、监管机构及学校领导者参与的设计和政策制定。

• 实施步骤是什么？使用了哪些关键技术？

  • 实施步骤如下：
    1. 半结构化访谈以获取关于LLM使用的现实情况和潜在危害的反馈。
    2. 对访谈内容进行主题分析以识别核心问题和应对策略。
    3. 比较EdTech供应商和教育工作者的风险关注点和减缓措施。
    4. 提出政策和设计建议，例如促进教育工作者参与工具设计和明确的规范审查机制。
  • 关键技术包括基于LLM的毒性检测、隐私保护机制、RAG（检索增强生成）存储等，以及教育工作者的教学干预策略。

研究成果

• 取得了哪些具体成果？

  • 识别了教育领域的三类重要LLM风险：
    1. 技术性危害：包括生成有害内容、隐私侵犯、幻觉输出。
    2. 人机交互危害：如学术不诚信。
    3. 广泛影响的危害：包括抑制学生学习和社交发展、增加教师负担、降低教师自主性及加剧教育不平等。
  • 提出了教育特定框架以补充现有领域无关的LLM风险分类。

• 与现有解决方案相比，它有哪些优势？

  • 通过关注教育工作者的反馈，覆盖更广泛的、与教育实践高度相关的危害类型。
  • 将教育工作者作为EdTech设计和风险减缓的核心，提升工具设计的用户中心化程度。
  • 通过跨领域合作建议促进教育公平和技术使用规范。

• 实验或评估结果是什么？

  • 访谈显示，EdTech供应商和教育工作者在风险关注点上存在显著差异。供应商更多关注技术层面的检测与减缓，而教育工作者则更加重视工具对学习质量、社交互动及教师自主性的长远影响。
  • 研究发现教育工作者在教学中主动干预可有效减轻部分技术性危害，但更广泛的社会系统性危害仍需外部监管和合作来解决。

• 局限性与未来方向

  • 局限性：
    • 数据来源主要来自英语国家（如美国、英国、加拿大），未包含全球教育特别是非英语、非西方国家的视角。
    • EdTech供应商样本数量较少，无法全面覆盖整个市场。
    • 未直接评估实际工具的效果，只基于访谈进行理论框架的建立。
  • 未来方向：
    • 扩大研究范围，包含更多国家和地区的教育工作者。
    • 开展实际教育场景中的实验研究以验证框架的适用性。
    • 探索教师主导的定制化LLM工具开发方法，以更好支持多样化教学需求。

通过此项研究，作者不仅形成了一个教育相关的LLM危害特定框架，还提出了以教育工作者为核心的设计和减缓策略，促进了教育技术的负责任使用。