美国女性使用生成式人工智能获取性与生殖健康信息的隐私和安全体验与关注

文献标题

Privacy and Safety Experiences and Concerns of US Women Using Generative AI for Seeking Sexual and Reproductive Health Information

出版信息

• 主题领域: 使用生成式人工智能获取性与生殖健康信息中的隐私与安全问题。
• 关键词: 生成式人工智能，性与生殖健康，隐私，安全，用户体验，堕胎，数据实践，监控，缓解策略，政策建议。

背景与问题

• 问题 / 挑战: 现有关于生成式人工智能（GenAI）聊天机器人的研究主要集中在技术和临床方面，忽视了用户隐私和安全问题，尤其是在性与生殖健康（SRH）等敏感领域。
• 重要性: 随着Roe v. Wade判决被推翻，获取性与生殖健康信息的隐私风险增加，尤其是与堕胎相关的查询，因为数字数据可能导致刑事化或监控。
• 动机与相关研究: 之前的研究探讨了FemTech工具（如经期追踪应用）的隐私问题，但未涉及生成式人工智能聊天机器人。生成式人工智能工具的对话性质引入了独特的风险，例如过度的数据收集、用户画像以及政府访问，这些问题尚未被充分研究。

解决方案

• 提出的方法: 通过对18名居住在美国的参与者进行半结构化访谈，以了解使用生成式人工智能聊天机器人获取性与生殖健康信息时的隐私和安全体验。
• 创新性:
  1. 首次研究生成式人工智能聊天机器人用户在性与生殖健康背景下的隐私和安全问题。
  2. 识别了生成式人工智能聊天机器人特有的风险，例如政府监控和用户画像。
  3. 提出了增强隐私和安全的社会技术和政策干预建议。
• 过程与关键技术:
  • 从限制性州和非限制性州招募参与者。
  • 访谈内容包括影响采用的因素、对数据实践的看法、隐私风险和缓解策略。
  • 使用主题分析法识别关键主题和子主题。

结果

• 具体发现:
  • 参与者认为生成式人工智能聊天机器人具有实用性、可用性、可访问性以及感知的同理心，但指出其在处理严重健康问题和提供个性化建议方面的局限性。
  • 隐私问题包括过度的数据收集、政府监控、用户画像、数据用于模型训练以及缺乏监管保护。
  • 与堕胎相关的查询在限制性州引发了更高的担忧。
• 相较基线的优势: 研究突出了生成式人工智能聊天机器人特有的隐私风险，这些工具比其他性与生殖健康工具（如搜索引擎或经期追踪应用）更具互动性和拟人化特征。
• 实验 / 评估:
  • 对18名年龄在18至45岁之间的参与者进行半结构化访谈，这些参与者曾使用生成式人工智能聊天机器人获取性与生殖健康信息。
  • 参与者均匀分布于限制性州和非限制性州。
  • 使用主题分析法分析数据，识别在采用、隐私问题和缓解策略方面的模式。
• 局限性与未来工作:
  • 仅限于18至45岁的美国参与者，研究结果可能无法推广到老年人或非美国背景。
  • 样本量较小，限制了统计代表性。
  • 未来工作应包括定量研究，并探索非用户的观点。

总结

本研究调查了美国女性在使用生成式人工智能聊天机器人获取性与生殖健康信息时的隐私和安全体验，尤其是在Roe v. Wade判决被推翻后的时代。参与者认为这些工具具有可访问性和感知的同理心，但对过度数据收集、用户画像和政府监控表示担忧，特别是针对与堕胎相关的查询。少数参与者采取了有效的隐私保护措施，这凸显了需要更好的用户教育和系统设计。研究结果为用户中心设计、隐私设计原则、交互式隐私功能以及更强的监管保护提供了建议，以确保在敏感背景下生成式人工智能的安全和伦理使用。