不要只是告诉我,问我:将解释作为问题来智能构建的AI系统可以提高人类逻辑辨别准确性,超过因果AI解释
可解释人工智能(XAI)隐私设计与用户控制AI/ML 研究员与工程师HCI 研究员
批判性思维是一项基本的人类技能。尽管批判性思维很重要,但研究表明,我们的推理能力受到个人偏见和认知资源限制的影响,可能导致潜在的危险结果。本文提出了AI框架下的提问这一新概念,将与AI分类相关的信息转化为问题,以积极地参与用户的思维过程并支持他们的推理过程。我们对204名参与者进行了一项研究,比较了AI框架下的提问对批判性思维任务的影响;即对社会分歧陈述的逻辑有效性的辨别。我们的结果显示,与没有反馈甚至总是正确的系统的因果AI解释相比,AI框架下的提问显著提高了人类对逻辑错误陈述的辨别能力。我们的实验展示了未来人机协同推理系统的风格,在这种系统中,AI成为批判性思维的刺激者,而不仅仅是信息提供者。
研究问题 / 现实痛点
这篇论文在当前问题库中对应的问题线索。
当前问题库还没有收录这篇论文的问题与痛点。
- 75%
会话式解释:与非AI专家讨论可解释AI
IUI '25· 可解释人工智能(XAI)
- 67%
没有问责制就没有可解释性:交互式机器学习中解释和反馈的经验研究
CHI '20· 可解释人工智能(XAI) +2
- 67%
数据为中心的解释:解释机器学习系统的训练数据以促进透明度
CHI '21· 可解释人工智能(XAI) +2
- 67%
模型定位与计算反思性:在数据科学中促进反思性
CHI '22· 可解释人工智能(XAI) +2
- 67%
注意差异:设计师和标准在用户算法系统透明度方面的设计
CHI '24· 可解释人工智能(XAI) +2
- 67%
重写者:由小型LLM驱动的用户主导的数据最小化用于基于LLM的聊天机器人
CHI '25· 可解释人工智能(XAI) +2
- 67%
对我的置信区间有信心:数据用户如何参与隐私保护的维基百科数据研究
CHI '26· 可解释人工智能(XAI) +2
- 67%
解构自主性:基于自由框架解释AI技术接受度
CHI '26· 可解释人工智能(XAI) +2
- 67%
认证AI系统等同于可信?探索专家和普通用户对AI认证的认知与需求
CHI '26· 可解释人工智能(XAI) +2
- 67%
多代理LLM接口中的意义建构:用户如何解读透明度和可信度线索
CHI '26· 大语言模型(LLM)的人机协作 +2
基于研究子主题与职业分类的 Jaccard 相似度(≥60%)
快捷操作
广告推荐
学习 AI 编程到 CodeNow
open_in_new打开DOI链接
DOI: https://doi.org/10.1145/3544548.3580672
一眼看懂
fact_check论文快照
dataset
来源
CHI
calendar_month
年份
2023
emoji_events
奖项
未标记奖项
group
作者
4 位作者
sell
研究子方向
可解释人工智能(XAI)、隐私设计与用户控制
work
职业/产业
AI/ML 研究员与工程师、HCI 研究员
article
内容状态
仅摘要
hub
相关论文
10 篇相关论文