通过控制屏障函数屏蔽增强学习演示算法的安全性

学习演示（LfD）是一种强大的方法，允许非机器人专家的终端用户教授机器人新任务，使他们能够定制机器人行为。然而，现代LfD技术不会明确合成安全的机器人行为，这限制了这些方法在现实世界中的可部署性。为了在不依赖专家的情况下增强LfD的安全性，我们提出了一个新框架SECURE（使用逆强化学习中控制屏障函数的屏蔽），它从终端用户学习定制的控制屏障函数（CBF），防止机器人采取不安全的行为，同时对任务完成造成很小的干扰。我们在三组实验中评估SECURE。首先，我们通过实证验证SECURE从演示中学习高质量CBF，并在模拟机器人和自动驾驶任务上优于传统LfD方法，安全性提升高达100%。其次，我们证明机器人专家可以在真实世界的切刀切割、备餐任务上使用SECURE优于传统LfD方法，任务完成率提高12.5%，同时将安全违规次数降至零。最后，我们在用户研究中展示非机器人专家可以使用SECURE有效地教授机器人安全策略，避免与人碰撞并防止咖啡洒出。