高等教育中的人工智能感知与干预：学生对学习影响、情感反应和伦理优先级的看法

文献标题

AI Sensing and Intervention in Higher Education: Student Perceptions of Learning Impacts, Affective Responses, and Ethical Priorities

出版信息

• 主题领域: 教育中的人工智能感知与干预系统
• 关键词: 教育中的人工智能、学生感知、伦理问题、自主性、隐私、基于注视的检测、面部情绪检测、学习影响、情感反应

背景与问题

• 问题/挑战: 当前教育中的人工智能感知与干预系统主要关注技术性能，但往往忽视了以学生为中心的因素，如情感体验、自主性和伦理问题。
• 重要性: 理解学生的感知对于使人工智能系统符合他们的需求和价值观至关重要，从而确保教育技术的有效性和可接受性。
• 动机与相关研究: 以往研究强调了人工智能感知与干预系统的技术优势，但缺乏关于学生情感和伦理反应的实证证据，导致对这些系统如何影响学习体验和福祉的理解存在空白。

解决方案

• 提出的方法: 针对澳大利亚大学生进行混合方法实验研究，以评估对人工智能感知与干预系统的感知，并优先考虑伦理问题。
• 创新点:
  1. 提供关于学生对人工智能感知与干预系统的情感和教学反应的实证证据。
  2. 基于学生视角的伦理优先框架。
  3. 为设计以学生为中心的、符合伦理的教育人工智能系统提供设计启示。
• 流程与关键技术:
  • 第1阶段: 基于情景的视频实验，展示六种感知模式（基于注视 vs. 面部情绪检测）和干预形式（系统生成 vs. 教师引导）的原型视频。
  • 第2阶段: 使用Likert量表评分和六项伦理原则（隐私、自主性、公平性、准确性、透明性、学习益处）的成对比较进行伦理优先排序任务。
  • 分析方法: 定量分析（Mann–Whitney U检验、Bradley-Terry模型）和定性分析（内容分析）。

结果

• 具体发现:
  • 学生对人工智能感知系统的评价较为负面，无论感知模式如何，均表现出显著的不适和焦虑。
  • 由于对自主性和社交尴尬的担忧，学生更倾向于系统生成的提示，而非教师引导的干预。
  • 隐私和自主性被评为最重要的伦理问题，而公平性和透明性优先级较低。
• 相较基线的优势:
  • 突出了以学生为中心的伦理优先事项和情感反应，挑战了以技术为中心的人工智能系统评估方式。
  • 提供了设计更少干扰、更具自主性的人工智能干预措施的可操作性见解。
• 实验/评估:
  • 参与者: 132名澳大利亚大学生。
  • 指标: 学习信念、情感反应、伦理优先排序。
  • 工具: 视频情景、Likert量表评分、成对比较。
• 局限性与未来工作:
  • 仅限于假设情景；未来研究可使用真实系统以获得更丰富的见解。
  • 研究对象集中于澳大利亚高等教育；需要在不同文化和年龄群体中进行更广泛的研究。
  • 人工智能感知与干预系统的长期影响尚未探索。

总结

本研究探讨了高等教育中学生对人工智能感知与干预系统的感知，揭示了对隐私和自主性的伦理担忧以及负面的情感反应。学生更倾向于系统生成的提示，而非教师引导的干预，强调了自主性的重要性和避免社交尴尬的需求。伦理优先事项集中于自主性和隐私，超越了对学习益处的感知。本研究结果为设计非侵入性、以学生为中心的人工智能系统提供了可操作的设计启示，这些系统能够尊重伦理价值并增强学习体验。未来研究应探索真实场景中的应用及其在不同背景下的长期影响。