护理院呼叫推荐解释:以用户为中心的设计方法与知识型健康决策支持系统交互
作者
可解释人工智能(XAI)AI 辅助决策与自动化系统医生、护士、临床医生老年护理人员
文献标题
Explaining Call Recommendations in Nursing Homes: A User-Centered Design Approach for Interacting with Knowledge-Based Health Decision Support Systems
文献信息
- 主题领域: 医疗推荐系统,用户中心化设计,高风险场景中的交互设计
- 关键词: 健康推荐系统,决策支持系统,用户中心化设计,交互式推荐系统,优先级推荐,用户反馈,透明性,信任,用户界面
研究背景与问题
-
发现的问题或挑战:
- 健康推荐系统处于初步发展阶段,其信任度和可靠性仍需提高。
- 护理院的呼叫系统缺乏优先级推荐、透明性以及用户反馈特性,这可能导致响应时间延长、护理过程满意度降低。
- 推荐系统面临的常见问题包括数据稀疏性、冷启动问题和“黑箱”现象。
-
为什么重要:
- 呼叫系统是护理院居民与护理人员之间的关键沟通工具,影响居民的安全和关爱。
- 快速响应和优先级的明确界定对提高护理效率和居民满意度极为重要。
-
研究动机与相关工作:
- 文献综述表明,推荐系统在高风险场景中需要考虑用户互动、透明性及用户控制性。
- 现有的医疗决策支持系统多数基于规则或机器学习,但与用户交互方式的研究有限。
解决方案
-
提出的方法或解决方案: 作者提出了一种结合用户中心化设计流程和健康决策支持系统的移动应用,从居民和护理人员的需求出发,设计并迭代优化用户界面,用以支持护理院的呼叫推荐及其解释。
-
该解决方案的创新之处:
- 首次将用户中心化设计方法应用于护理院的呼叫优先级推荐系统。
- 通过用户反馈和历史数据结合,采用了混合推荐方法(基于规则和机器学习)。
- 探索了增强透明性和用户信任的可解释推荐技术。
-
实施步骤与关键技术:
- 探索性定性用户研究: 与护理人员及居民进行观察和半结构化访谈,了解现有呼叫系统的优劣。
- 原型设计与迭代:
- 低保真原型:设计五种优先级的推荐标签。
- 高频原型迭代:优化界面透明性,添加历史记录功能和快速反馈机制。
- 最终原型开发:
- 添加挂起列表功能以降低护理人员的工作负荷。
- 提供具体解释与过去的呼叫记录,以帮助护理人员更全面地了解居民需求。
- 推荐引擎:
- 使用随机森林模型作为机器学习算法,结合传感器数据和用户反馈。
- 在冷启动阶段,基于规则的引擎提供优先级预测。
研究成果
-
具体成果:
- 在护理院成功部署了支持呼叫优先级推荐的健康决策支持系统,运行时间为四个月。
- 系统显著提高了护理人员的反馈频率,且反馈过程直观便捷。
- 调查显示,参与人员对系统透明性的感知和交互满意度均较高。
-
与现有解决方案相比的优势:
- 系统提供了详细且动态的推荐解释信息,显著增进了用户对算法和推荐理由的理解。
- 呼叫通知的优先级推荐具有更高的用户可控性和信任水平。
- 通过用户反馈改进模型,缓解了冷启动问题。
-
实验或评估结果:
- 系统总共处理了2610条居民呼叫记录,其中29.5%的记录有护理人员提供的反馈。
- 数据准确性评估显示,系统对优先级的预测表现良好,其最高分类准确率达到71%。
-
局限性与未来方向:
- 局限性:
- 部分传感器数据因条件限制未被全面集成。
- 用户群体规模较小,结果可能不具有广泛代表性。
- 系统在中间优先级预测上的表现欠佳,需要进一步优化。
- 未来方向:
- 优化推荐引擎算法,包括特征选择、超参数调整和类别采样。
- 进一步简化用户界面使其更易于使用。
- 扩展用户群体以进行更大规模的测试和反馈收集。
- 局限性:
总结
本文提出了一种用户中心化设计驱动的呼叫优先级推荐系统解决方案,为提升护理院居民的关怀质量与效率提供了新的研究方向。研究表明,结合透明性、用户控制和动态反馈的交互方式,可以显著优化医疗决策支持系统的用户体验和信任水平。
研究问题 / 现实痛点
这篇论文在当前问题库中对应的问题线索。
help
研究问题
3- 如何通过用户中心设计提升护理院呼叫推荐系统的交互透明性和用户信任?分类: 医疗AI信任、临床决策支持与医患协作同类问题arrow_forward
- 护理院场景中,混合推荐方法(规则与机器学习)能否解决冷启动和数据稀疏问题?分类: 医疗AI信任、临床决策支持与医患协作同类问题arrow_forward
- 采用具体的推荐解释机制是否能改善用户对健康决策支持系统的理解和满意度?分类: 医疗AI信任、临床决策支持与医患协作同类问题arrow_forward
lightbulb
现实痛点
1- 护理院呼叫系统缺乏优先级推荐与透明反馈,导致响应不及时。分类: 医疗AI信任、临床决策支持与医患协作同类问题arrow_forward
- 75%
忽略、信任还是协商:理解临床医生在医疗保健中对基于AI的治疗建议的接受程度
CHI '23· 可解释人工智能(XAI) +1
- 60%
设计理论驱动的以用户为中心的可解释人工智能
CHI '19· 可解释人工智能(XAI) +1
- 60%
在时间紧迫的医疗决策中设计值得信赖和协作的AI:一种社会技术视角
CHI '21· 可解释人工智能(XAI) +1
- 60%
评估自动化建议对决策制定的影响:领域专家调解模型错误但主动性降低
CHI '21· 可解释人工智能(XAI) +1
- 60%
医疗保健AI治疗决策支持:设计原则以增强临床医生的采用和信任
CHI '23· 可解释人工智能(XAI) +1
- 60%
《如果有全世界所有的时间》:眼科医生对临床人工智能支持中锚定偏见缓解的看法
CHI '23· 可解释人工智能(XAI) +1
- 60%
利用生物医学文献校准临床医生对AI决策支持系统的信任
CHI '23· 可解释人工智能(XAI) +1
- 60%
重新思考人工智能在肿瘤学中与医师的角色:揭示临床和研究工作流程中的视角
CHI '23· 可解释人工智能(XAI) +1
- 60%
用户体验AI系统的可追溯性:考察自动化胰岛素输送(AID)系统中的主观信息处理意识
IUI '24· 可解释人工智能(XAI) +1
基于研究子主题与职业分类的 Jaccard 相似度(≥60%)
快捷操作
广告推荐
学习 AI 编程到 CodeNow
open_in_new打开DOI链接
DOI: https://dl.acm.org/doi/10.1145/3490099.3511158
一眼看懂
fact_check论文快照
dataset
来源
IUI
calendar_month
年份
2022
emoji_events
奖项
未标记奖项
group
作者
5 位作者
sell
研究子方向
可解释人工智能(XAI)、AI 辅助决策与自动化系统
work
职业/产业
医生、护士、临床医生、老年护理人员
article
内容状态
已索引正文
hub
相关论文
9 篇相关论文