人与机器理解的差异

如今，复杂的机器学习模型已被部署在医疗和自动驾驶汽车等多个关键领域，但作为黑箱运行。因此，最近在解释这些复杂模型的决策以向人类解释其行为方面有了显著增长。在某些情况下，与人类对任务解释相对应的模型更受欢迎，可以帮助归属责任、建立信任、暴露偏见，进而建立更好的模型。因此，理解哪些模型符合人类对任务的理解至关重要。在本文中，我们通过图像分类任务视角，提出了一项大规模众包研究，揭示并量化人与机器理解之间的差异。特别地，我们试图回答以下问题：哪些（表现良好的）复杂机器学习模型在利用特征进行准确预测方面更接近人类？任务难度如何影响与人类相比的机器特征选择能力？人类在选择使图像识别更准确的特征方面是否始终更优？我们的发现对人类-机器协作具有重要意义，考虑到人工智能领域的长期目标是使机器能够像人类一样学习和推理。