ChatGPT在高等教育中的承诺与风险：机遇、挑战和设计影响

文献标题

The Promise and Peril of ChatGPT in Higher Education: Opportunities, Challenges, and Design Implications

文献信息

• 主题领域: 人机交互、生成式人工智能、高等教育应用，集中探讨 ChatGPT 在高等教育中的挑战与机遇。
• 关键词: 大语言模型, ChatGPT, 教育中的人工智能, 高等教育, 用户体验, 人工智能伦理, 隐私, Prompt Engineering, 学术完整性, 算法偏差

研究背景与问题

• 问题或挑战: ChatGPT 和其他生成式人工智能模型在高等教育中的应用迅速增加。但其潜在风险（如学习效率下降、学术不诚信、算法偏见等）带来了争议。
  • ChatGPT 的广泛使用引发了对学术完整性、深度学习与公平教学环境的担忧。
  • 它的优势（如 24/7 可用性、个性化学习反馈）与其局限性（如幻觉问题、隐私风险）并存。
• 重要性: 由于学生对 ChatGPT 的依赖越来越大，理解其对教育的影响以及如何优化使用策略是教育工作者、AI 设计者与政策制定者的重要课题。
• 研究动机与相关工作:
  • 过往研究主要集中于特定教育目标设计的智能教学系统（ITS），而非广泛应用的生成式AI的教育使用。
  • 当前关于 ChatGPT 的研究不足以揭示学生在真实教育中的具体使用情况和需求。

解决方案

• 研究方法:
  • 进行了为期一学期的案例研究，包括焦点组讨论、参与式设计，研究对象包括30名积极使用 ChatGPT 的学生和5名相关领域专家。
  • 数据以学生作业（如报告、设计草图）和专家访谈的形式收集，使用定性分析和主题分析来提炼主要结论。
• 研究目标:
  1. 探讨 ChatGPT 在高等教育中的使用机会和挑战。
  2. 提出学生中心的设计改进建议，提高 ChatGPT 的可用性和可持续性。
• 创新之处:
  • 提出了融合教育技术（如智能教学系统）与生成式AI模型的方法，重新设计 ChatGPT 针对教育场景的特性。
  • 通过实际场景的数据收集与分析，提供了对 ChatGPT 的学生体验、教学效果和社会伦理的全面洞察。

研究成果

机会

1. 可用性和效率:
   • ChatGPT 提供即时响应，方便随时使用，有助于提高学习效率。
   • 在信息检索、搜索建议和帮助完成任务上表现优异。
2. 用户体验:
   • 提供个性化学习体验，可根据学生需求调整回答内容。
   • 学生认为其客观、公平，避免了人类教师可能带来的偏见。
3. 扩展性与包容性:
   • 对各种教育技术（如虚拟课堂）的强大扩展性。
   • 能帮助残障学生或更经济地提供教学资源。

挑战

1. 算法问题:
   • “幻觉”（Hallucination）现象: 生成似是而非的虚假信息。
   • 算法偏差: 数据训练中的潜在偏见可能强化学生的既有偏见。
   • 透明性与系统解释不足: 学生难以理解 ChatGPT 的答案生成过程。
2. 人类与社会问题:
   • 过度依赖 ChatGPT 可能降低学习能力和批判性思维。
   • 社会互动减少可能影响心理健康和团队合作。
3. 使用问题:
   • 如 Prompt Engineering（提示语构造）复杂，对交互操作有较高要求。
   • 文本本身的限制，难以支持实践学习和动手操作。

用户设计建议

1. 解决幻觉问题:
   • 建议通过算法微调（fine-tuning）、嵌入技术（embedding）和外部事实校验功能来减少错误信息。
2. 优化用户体验:
   • 增强提示推荐功能，自动生成高效提问结构。
   • 引入学习地图与导航功能，帮助学生概览学习进程。
   • 设计辅助AI代理，改善学生交互体验。
3. 促进多样性与包容性:
   • 增加支持多角度讨论、多代理协作的功能。
4. 增强社交互动:
   • 提议结合 ChatGPT 和元宇宙技术，提供虚拟课堂和社交学习场景。

结论与未来方向

• 结论:
  • ChatGPT 在高等教育中既有潜在的革命性价值，也存在不容忽视的使用问题。其教育性应用亟需结合传统智能教学系统（ITS）的有效策略。
• 局限性:
  1. 研究范围仅涵盖美国特定大学本科生，未覆盖全球多样性。
  2. 数据未探讨 ChatGPT 对学生学习绩效的直接影响。
  3. 基于相对较旧的 ChatGPT-3.5 版本技术实现。
• 未来研究方向:
  • 探寻多文化、多语言背景下学生对 ChatGPT 的反应。
  • 深入研究 ChatGPT 的长文本、多模态升级功能对教育的潜在影响。
  • 针对 AI 的教育伦理与社会政策设计展开进一步探索。