信任感知规划：迭代人机交互中信任演化的建模

团队成员之间的信任是任何成功合作的必要条件。因此，对于任何试图不仅成功参与任务而且确保团队实现目标的成员来说，培养和维持团队成员的信任成为一项核心责任。信任管理问题在混合人机团队中尤其具有挑战性，因为人类和机器人可能对当前任务持有不同的模型，因此可能对当前行动方案有不同的期望，从而迫使机器人专注于需要高成本的可解释行为。我们提出了一个计算模型，用于在人类担任监督角色的迭代人机交互设置中获取和调节信任。在我们的模型中，机器人将人类的信任及其对机器人的期望整合到其规划过程中，以在交互过程中建立和维护信任。通过建立所需的信任水平，机器人可以专注于最大化团队目标，避免显式的解释或可解释行为，而不必担心人类监督者监控和干预他们可能不甚理解的行为。我们将这种对信任水平的推理建模为对单个规划任务的元推理过程。我们还通过人类被试实验验证了我们的模型。