Skyline：深度神经网络训练中的编辑器内交互式计算性能分析

视频

DOI

训练先进的深度神经网络（DNN）是一个计算昂贵且耗时的过程，这促使深度学习开发者对DNN进行计算性能调试。然而，有效进行此调试需要对底层软件和硬件系统有深入了解——这是普通深度学习开发者可能不具备的。为弥补这一差距，我们提出SKYLINE：一种支持编辑器内计算性能分析、可视化和调试的DNN训练新工具。SKYLINE的核心贡献在于利用DNN训练的特殊计算属性，提供（i）交互式性能预测和可视化，以及（ii）可直接操作的可视化效果——拖动即可更改代码中的批量大小。作为编辑器内工具，SKYLINE允许用户在开发过程中利用这些诊断功能调试DNN的性能。一项针对SKYLINE的探索性定性用户研究产生了积极结果；所有参与者均认为SKYLINE有用且易于使用。