同理心是你所需的一切：对话代理应如何回应言语虐待

DOI

随着融入人工智能的系统越来越受欢迎，对话代理（CAs）在各个领域变得越来越重要，提供了新的功能和便利，但同时，也遭受滥用和言语虐待。我们研究了在不同类型的虐待下，对话代理的回应方式是否会影响那些被认为可以减轻人们攻击性行为的情绪，涉及三种言语虐待类型（侮辱、威胁、咒骂）和三种回应方式（回避、同理心、反击）。98名参与者被分配到一种虐待类型条件下，依次与三个语音（基于声音）的CAs互动，并在每次会话后报告他们的内疚、愤怒和羞耻感。结果显示，代理的回应方式对用户情绪有显著影响。参与者在与同理心代理互动时比与其他两种代理互动时感到更少的愤怒和更多的内疚。此外，我们还调查了商业CAs对言语虐待的回应现状。我们的研究结果对对话代理的设计有直接的影响。