人机交互中的心智模型:实证方法论与指南的系统综述
作者
可解释人工智能(XAI)AI 辅助决策与自动化系统自动驾驶界面与接管设计自动驾驶工程师与测试员AI/ML 研究员与工程师HCI 研究员
心智模型概念长期用于人机交互中,以捕捉人们对计算系统的理解和推理。诱出用户的心智模型可以解释他们对系统的行为和态度——为何及如何使用、依赖、信任或拒绝它。然而,其使用在概念上仍碎片化、方法上多样,且未在现代AI系统的背景下重新审视,而AI系统的不透明性和新能力可能挑战人类理解。为解决这一空白,我们系统综述了88项诱出人类对AI系统心智模型的实证研究。我们提取并分析了研究如何定义和诱出心智模型、其方法预设的心智模型类型,以及这些在不同AI系统类型间如何变化。基于认知心理学和人机交互中心智模型的框架,以及对提取变量间的描述性和关系性分析,我们发现:(1)心智模型诱出目标在系统特定评估与揭示大众理论的类别层面探测之间分叉;(2)认识论假设超越经典功能-结构视角(系统如何行为/内部如何运作),出现类比和拟人化AI系统框架;(3)诱出方法更多受系统特征和社区特定实践而非理论承诺塑造,特别是对预测性和可解释AI系统及自动驾驶或驾驶辅助车辆。我们推导出9条实用指南以支持更审慎和反思性的AI系统心智模型诱出方法。
研究问题 / 现实痛点
这篇论文在当前问题库中对应的问题线索。
当前问题库还没有收录这篇论文的问题与痛点。
- 100%
我的车说了什么?自动驾驶汽车解释错误和驾驶环境对舒适度、依赖性、满意度和驾驶信心的影响
CHI '25· 自动驾驶界面与接管设计 +2
- 83%
人们如何对多个变体智能体进行排序?
IUI '22· 可解释人工智能(XAI) +1
- 71%
人们在解释自动驾驶汽车的行为时将其归因于自主车辆的属性:来自认知科学的可解释人工智能的见解
CHI '25· 自动驾驶界面与接管设计 +1
- 67%
整体是否超过其部分?AI解释对互补团队绩效的影响
CHI '21· 可解释人工智能(XAI) +1
- 67%
一种人工智能并不适合所有人:关于普通人对人工智能角色认知的聚类分析
CHI '23· 可解释人工智能(XAI) +1
- 67%
"帮助我帮助AI": 理解可解释性如何支持人机交互
CHI '23· 可解释人工智能(XAI) +1
- 67%
何时需要解释:真实自动驾驶场景下用户对解释需求建模
CHI '26· 可解释人工智能(XAI) +1
- 67%
可编辑XAI:面向可解释属性的双向人机对齐与协同可编辑解释
CHI '26· 可解释人工智能(XAI) +1
- 67%
涌现而非固有:巴拉德式的可解释人工智能解读
CHI '26· 可解释人工智能(XAI) +1
- 67%
自动化理由生成:一种可解释人工智能技术及其对人类感知的影响
IUI '19· 可解释人工智能(XAI) +1
基于研究子主题与职业分类的 Jaccard 相似度(≥60%)
快捷操作
一眼看懂
fact_check论文快照
dataset
来源
IUI
calendar_month
年份
2026
emoji_events
奖项
未标记奖项
group
作者
3 位作者
sell
研究子方向
可解释人工智能(XAI)、AI 辅助决策与自动化系统、自动驾驶界面与接管设计
work
职业/产业
自动驾驶工程师与测试员、AI/ML 研究员与工程师、HCI 研究员
article
内容状态
仅摘要
hub
相关论文
10 篇相关论文