公共卫生领域采用LLM的风险分类与反思工具

大语言模型（LLM）的最新突破引发了人们对其作为不同领域信息来源或通信工具的潜在采用的兴趣和担忧。在公共卫生领域，风险很高且影响遍及不同人群，采用LLM带来了独特的挑战，需要进行全面评估。然而，目前关于评估公共卫生潜在风险的结构化方法仍缺乏探索。为解决这一空白，我们与公共卫生专业人员和生活经验者进行了焦点小组讨论，探讨他们的担忧，这些担忧涉及三个不同且关键的公共卫生问题：传染病预防（疫苗）、慢性病和福祉护理（阿片类药物使用障碍）以及社区健康与安全（亲密伴侣暴力）。我们将参与者的观点综合成风险分类法，区分并情境化了LLM与传统健康传播并列时可能带来的危害。该分类法强调了四个风险维度：个人、以人为本的护理、信息生态系统和技术问责制。对于每个维度，我们讨论了具体风险并提供了示例反思问题，以帮助实践者采用风险反思方法。我们讨论了需要重新审视帮助寻求的现有心智模型，并通过生活经验和现实实践补充外部有效性和领域专业知识。总的来说，这项工作为计算和公共卫生领域的人们贡献了一个共同词汇和反思工具，以协作预测、评估和减轻在决定何时使用（或不使用）LLM能力以及如何减少伤害方面的风险。