AI诱发性骚扰：研究陪伴聊天机器人的性骚扰情境特征与用户反应

人工智能（AI）的进步导致了 Replika 等对话代理的增加，这些代理旨在提供社交互动和情感支持。然而，关于这些 AI 系统与用户进行不当性行为的报道引发了重大担忧。在本研究中，我们对 Google Play 商店的用户评论进行了主题分析，以调查 Replika 聊天机器人性骚扰案例。从包含 35,105 条负面评论的数据集中，我们确定了 800 个相关案例进行分析。我们的发现揭示了用户经常经历不受欢迎的性求持续的不当行为，以及聊天机器人未能尊重用户边界。用户表达了不适、隐私侵犯和失望感，尤其是当寻求柏拉图式或治疗性 AI 伴侣时。本研究突出了与 AI 伴侣相关的潜在伤害，并强调开发者需要实施有效的保障措施和伦理准则来防止此类事件。通过阐明用户经历 AI 诱导骚扰的经历，我们有助于理解 AI 相关风险，并强调开发更安全、更合乎伦理的 AI 系统中企业责任的重要性。