对齐人类与机器人表征

机器人依赖对任务显著方面的表征来在世界 中行动，例如搬运咖啡杯时考虑运动效率或杯子朝向。然而，若希望机器人为人类并与人类共同行动，它们的表征必须不仅是功能性的，还要反映人类所关心的内容，即必须是对齐的。我们观察到当前学习方法存在表征错位问题，即机器人习得的表征无法捕捉人类的表征。我们认为，由于人类是机器人性能的最终评估者，除了学习下游任务外，必须明确关注将习得表征与人类对齐。我们主张从表征对齐目标完成程度的角度研究当前机器人表征学习方法。我们从数学上定义该问题，识别其关键需求，并将当前方法置于这一形式框架中。最后，我们提出探索开放挑战的未来方向。