机器人老师“对学习非常好，但对人际关系不好”：日本儿童对伦理AI未来的批判性观点

研究背景与问题

• 发现的问题或挑战：作者指出，越来越多的年轻儿童日常生活中与人工智能 (AI) 互动，但他们往往不了解这些技术的伦理问题或设计的潜在影响。这导致对儿童的 AI 教育重点在技术能力上，而忽略了批判性视角的培养。
• 问题重要性：随着 AI 在社会各领域的普遍化，年轻一代需了解这些技术的伦理后果，以帮助他们在日常生活中进行批判性评估并准备好迎接科技日益复杂的未来。
• 研究动机与相关工作：儿童在遇到 AI 时倾向于将其拟人化和赋予魔法般的特性，这些误解需要被纠正。从当前研究来看，大多数关于 AI 的教育干预旨在发展技术知识，但越来越多研究呼吁培养儿童批判性思维，特别是关注 AI 的社会和伦理影响。

解决方案

• 提出的方法或解决方案：
  • 作者设计了为期四天的“批判性 AI 教育工作坊”，通过让日本的 96 名小学生 (年龄 11-12 岁) 想象和设计未来的技术来进行教育。
  • 采用“设计未来学”方法，鼓励学生构想未来学校的技术，并在过程中进行伦理反思。
• 创新之处：
  • 将设计未来学与批判性 AI 教育结合，通过让儿童构想自己的未来学校和技术，实现技术学习和伦理反思的双重目标。
  • 关注儿童的日常问题以及他们对科技的需求，体现出技术设计可以解决当下问题。
  • 强调儿童设计过程中伦理问题的思考，包括公平、包容、责任和可持续性。
• 实施步骤：
  1. 导入阶段：解释 AI 的基本概念及其在日常生活中的应用。
  2. 设计阶段：小组构想未来的教师、学校设施或其他技术实体。
  3. 制作阶段：用低保真原型材料创建其设计的实体并记录其功能和限制。
  4. 反思与讨论：小组展示他们的设计，重点讨论伦理问题，如公平性、可持续性以及 AI 在设计中的责任。

研究成果

• 具体成果：
  • 学生设计了多种未来科技实体（如机器人教师、自动文具、智能学习桌等），试图解决实际问题，包括沉重书包的负担、有限的操场空间以及个性化教学的需求。
  • 孩子们从最初对 AI 的拟人化和魔法化概念，逐渐转变为更批判性地理解其潜在缺陷，例如可能产生的错误以及社会和伦理影响。
  • 针对伦理问题，设计反映了孩子对公平与包容的关注，例如如何使技术更具可负担性或通过公共资金支持贫困国家的使用。
• 与现有解决方案相比的优势：
  • 这种方法不仅教授技术知识，还提供了让儿童深入探索伦理和社会影响的机会。
  • 使用设计未来学使学生能够将当前的技术问题与未来的解决方案联系起来，鼓励长远思考。
• 实验或评估结果：
  • 儿童展示出对 AI 运作和伦理问题的更深刻理解。例如，他们能够批判性地讨论 AI 在社会中的作用，并提出对公平性和责任分配的见解。
  • 部分学生在反思中提到 AI 的潜在危险，例如过度依赖可能带来的社会问题，这展现出他们批判性的态度。
• 局限性与未来方向：
  • 局限性在于工作坊时间较短，仅能够探讨伦理问题的表面，而不是深入覆盖。
  • 未来研究可以扩展至更多样化的文化背景，研究其他地区儿童对 AI 的看法。
  • 应长期支持儿童的 AI 教育，为他们提供持续发展的平台，关注快速变化的 AI 技术（如生成式 AI 的发展）。

总结

本研究展示了批判性 AI 教育的潜力，通过让儿童参与设计和伦理反思，培养他们对 AI 技术的批判性认知。研究强调了儿童作为未来技术设计和社会塑造者的角色，同时提出了继续探索全球儿童对 AI 观点的必要性。这种方法将促进社会对儿童参与技术设计的重视，并帮助构建包容性和可持续发展的技术未来。