谁的声音?: 通过生成式语音探讨人工智能代理在社交互动中对人物的呈现

随着生成式人工智能(genAI)应用日益普及，很少有研究探讨这些应用如何改变社交互动。一组可能改变社交互动的应用是使用生成式语音来驱动能够逼真地呈现人物的AI代理。我们的工作研究了AI代理在人类对话中代表个人的潜在影响('代理呈现')，以此开始填补这一研究空白。我们采用多方法途径，包括对开发者进行形成性访谈、与设计师进行共同设计工作坊、对研究人员进行危害分析，以及对公众进行访谈。技术专家和潜在用户都担心采用代理呈现可能损害人类通信的质量、信任和自主权。潜在用户特别担心代理呈现可能削弱社交互动的价值，并威胁个人控制其形象的能力。为了避免这种潜在后果，未来的genAI驱动代理和语音应用在考虑在社交环境中应用这些技术时应考虑用户定义的红线。