仅具备可信度是不够的：不可信人工智能（AI）如何欺骗终端用户并获得信任

可信赖人工智能的特征包括能力、透明度和公平性。然而，终端用户可能无法识别能力不足的人工智能，使得不可信的AI能够在透明度的幌子下夸大其能力，从而获得相对于其他可信AI的不公平优势。我们进行了一项有120名参与者参与的实验，测试不可信的AI是否能欺骗终端用户并获得信任。参与者与两个基于人工智能的国际象棋引擎互动：可信的（能力强、公平）和不可信的（能力弱、不公平），这两个引擎通过推荐棋步来指导参与者在三局比赛中对抗另一个引擎。我们改变教练对自身能力的透明度（不可信的教练总是夸大其能力）。我们根据参与者依赖教练棋步建议的频率来量化和客观地测量参与者的信任度。参与者表现出无法评估AI能力的问题，错误地将信任给予了不可信的AI，证实了其欺骗能力。我们的工作呼吁设计交互方式以帮助终端用户评估AI的可信度。