围绕污名化进行设计：面向月经健康的人-centered大型语言模型

文献标题

Designing Around Stigma: Human-Centered LLMs for Menstrual Health

出版信息

• 主题领域: 针对文化禁忌和资源匮乏环境中的月经健康教育，设计以人为中心的对话式人工智能。
• 关键词: 月经健康、对话式人工智能、敏感设计、大型语言模型、检索增强生成、文化敏感性、罗马化乌尔都语、巴基斯坦、健康教育、隐私。

背景与问题

• 问题/挑战: 在巴基斯坦，月经健康教育受到文化禁忌、错误信息以及缺乏正式课程的限制，导致年轻女性缺乏可信赖的资源。现有的人工智能工具通常无法与当地的文化和语言环境相匹配，可能产生不适或有害的输出。
• 重要性: 在保守且资源匮乏的环境中，解决月经健康问题对于改善女性健康、尊严和自主权至关重要。数字工具为提供隐私性强、敏感性高的教育提供了潜力。
• 动机与相关工作: 先前的人机交互研究探讨了用于生殖健康的数字工具，但这些工具通常针对西方或世俗背景，忽视了像巴基斯坦这样的穆斯林占多数国家的文化和宗教规范。现有的聊天机器人缺乏对罗马化乌尔都语的本地化支持，也无法有效应对文化神话，从而限制了其在禁忌领域的效用。

解决方案

• 提出的方法: 基于WhatsApp的聊天机器人，结合大型语言模型（LLM）和检索增强生成（RAG），与巴基斯坦大学女性共同设计，用于支持月经健康教育。
• 创新点:
  1. 开发了一个针对文化敏感环境的对话式人工智能的敏感设计框架。
  2. 支持罗马化乌尔都语，并整合由妇科医生审核的知识库，以确保文化和医学的相关性。
  3. 从实际部署中获得经验性见解，突出用户交互模式和建立信任的机制。
• 流程与关键技术:
  1. 进行了六次共同设计工作坊（N=30），以确定设计需求，包括语言偏好、平台可访问性和信任障碍。
  2. 使用RAG框架构建了基于WhatsApp的聊天机器人，集成了本地验证的知识库和罗马化乌尔都语的语言分类。
  3. 在13名参与者中部署了聊天机器人，为期两周，收集了403条消息，并通过半结构化访谈评估可用性、文化适配性和信任度。

结果

• 具体发现:
  • 参与者交换了403条消息，查询内容涵盖月经生理、疼痛、卫生、神话和生殖健康。
  • 聊天机器人将“正常的痛苦”重新定义为合法的健康问题，引入医学术语并验证用户体验。
  • 用户通过反复提问进行互动，通过后续查询提高了健康素养。
• 相较基线的优势:
  • 与通用LLM相比，聊天机器人提供了文化适配、简洁且经过医学验证的响应。
  • 用户更喜欢其私密、无评判的空间，而非公共或家庭讨论以及其他数字资源如Google或Snapchat的‘My AI’。
• 实验/评估:
  • 在巴基斯坦拉合尔的公立女子学院中，针对13名年龄在18至22岁的参与者进行了为期两周的部署。
  • 通过交互日志和访谈进行评估，重点关注准确性、文化相关性和信任度。
• 局限性与未来工作:
  • 样本量小且人口统计范围有限，影响普适性。
  • 部署时间较短，可能未能捕捉长期参与情况。
  • 需要持续的人类监督以确保安全性和文化适配性，限制了可扩展性。
  • 未来工作应探索更广泛的人群、更长的部署时间，以及包括生育和更年期在内的其他健康领域。

总结

本研究提出了一种针对巴基斯坦月经健康教育的文化本地化、基于LLM的聊天机器人，解决了可信赖且敏感资源的缺口。通过支持罗马化乌尔都语、整合妇科医生审核的知识库以及在WhatsApp上的部署，聊天机器人为年轻女性提供了私密、无评判的学习空间。经验性发现显示，聊天机器人如何重新定义神话、验证健康问题，并通过文化适配建立信任。尽管受限于样本规模和可扩展性挑战，该研究为在父权制、资源匮乏环境中的对话式人工智能设计提供了敏感设计框架，并在更广泛的生殖健康领域具有潜在应用价值。