AI 同意的未来：以临床医生语音数据收集为例的案例研究

随着新型数据捕获方式的出现以支持新的人工智能应用，关于这些数据收集实践的伦理影响问题层出不穷。在本文中，我们呈现了临床医生对健康咨询期间语音数据收集的潜在益处和危害的看法。这类数据收集被提议作为 powering 模型以帮助临床医生完成医疗数据录入、行政任务和咨询分析。然而，临床医生的态度和担忧在围绕这些用例的人工智能叙事中基本上是缺失的，学术文献也几乎没有研究它们。我们的定性访谈研究使用知情同意流程的概念作为一种设计虚构，以支持获取临床医生对与虚构的近端人工智能助手相关的语音数据收集和使用的看法。通过对医生进行深入反思性主题分析，我们提炼出临床医生关注的八类潜在风险，包括工作流程中断、自我审查以及可能影响患者获得服务资格的错误。我们深入讨论了这些预期风险，反思了揭示它们的投机性过程，并根据我们的发现重新审视了人工智能辅助临床文档技术的评估标准。