人工智能偏见对人机交互的影响：与有偏见的机器人互动的风险（和机遇）

社交机器人行为通常使用人工智能算法设计，这些算法基于人类行为数据进行训练。这种训练过程可能导致机器人行为反映人类的偏见和刻板印象。在本工作中，我们评估了与有偏见的机器人互动是否会增加参与者的刻板印象思维。在研究中，一个带有性别偏见的机器人在三种条件下主持两名参与者（一名男性和一名女性）之间的辩论：（1）机器人行为符合性别刻板印象（亲男性）；（2）机器人行为与性别刻板印象对抗（亲女性）；（3）机器人行为不反映性别刻板印象也不对抗刻板印象（无偏好）。定量和定性测量表明，与Pro-Man条件下的机器人互动增加了参与者的刻板印象思维。在无偏好条件下也观察到刻板印象思维，但程度较轻。相比之下，当机器人在亲女性条件下表现出反偏见行为时，刻板印象思维被消除。我们的发现表明，HRI设计师必须意识到人工智能算法偏见，因为与有偏见的机器人互动可以强化内隐的刻板印象思维，并加剧社会中现有的偏见。另一方面，反偏见的机器人行为可以利用来支持当前减轻刻板印象思维负面影响的努力。