机器人风险评估剖面分析：机器人的风险处理方式是否影响用户信任？

视频

DOI

随着自主机器人走向普及，机器人做出可信的风险决策变得越来越重要——这既有助于提高接受度，也能充分发挥其自主能力。我们认为将人类的风险评估方法融入机器人的决策过程将提高用户信任。本研究调查了四种机器人风险处理方式，并通过用户研究探索每种方式获得的信任程度。这些方式是：风险规避型、风险追求型、风险中立型和人类风险方法型。风险是通过基于绩效的补偿人为刺激产生的，与之前的研究一致。实验在使用Unity游戏引擎创建的虚拟核电站环境中进行。40名参与者被要求完成机器人监督任务，观察机器人做出基于风险决策的过程，可以质疑机器人、进一步询问机器人，并最终接受或改变机器人的决策。研究表明，风险追求型机器人获得的信任显著低于风险规避型机器人、风险中立型机器人和采用人类方法的机器人。风险规避型、风险中立型和人类方法型机器人之间的信任程度没有显著差异。研究还发现，参与者质疑机器人决策的程度不能作为信任的准确衡量指标。结果表明，在设计必须在危险环境中进行基于风险决策的遥控操作机器人时，工程师应避免使用风险追求型机器人。然而，同一位工程师可以根据实施需要选择其余三种风险剖面中的任何一种，因为其系统的信任度不太可能受到显著影响。