仅有一席之地就够了吗？让教师和学生参与教育机器学习的数据集规范制定

DOI

尽管机器学习在教育领域前景广阔，但其在课堂中的应用暴露出了诸多公平性、问责性和透明度问题，以及数据隐私和学生Consent方面的担忧。这些问题的根本原因在于对教育复杂动态（包括师生互动、协作学习和课堂环境）缺乏理解。为了克服这些挑战并充分发挥机器学习在教育中的潜力，软件从业人员需要与教育工作者和学生密切合作，充分理解数据上下文（机器学习应用的基石），并协作定义机器学习数据规格。为了更深入地理解这种协作过程，我们与机器学习软件从业人员、教育工作者和学生开展了十次协作设计会议。在会议中，教师和学生与机器学习工程师、用户体验设计师和法律从业人员合作，为给定的机器学习应用定义数据集特征。我们发现利益相关者根据其领域和程序性知识对数据进行情境化，主动设计数据要求以减轻下游危害和数据可靠性问题，并展现出基于角色的协作策略和贡献模式。此外，我们发现除了拥有一席之地之外，机器学习中利益相关者的有意义参与还需要结构化支持：定义持续迭代和协作评估的流程、共享情境化数据质量标准，以及为技术和非技术利益相关者提供跨越专业知识边界的信息支撑。