不要只是告诉我,问我:将解释作为问题来智能构建的AI系统可以提高人类逻辑辨别准确性,超过因果AI解释

可解释人工智能(XAI)隐私设计与用户控制AI/ML 研究员与工程师HCI 研究员

批判性思维是一项基本的人类技能。尽管批判性思维很重要,但研究表明,我们的推理能力受到个人偏见和认知资源限制的影响,可能导致潜在的危险结果。本文提出了AI框架下的提问这一新概念,将与AI分类相关的信息转化为问题,以积极地参与用户的思维过程并支持他们的推理过程。我们对204名参与者进行了一项研究,比较了AI框架下的提问对批判性思维任务的影响;即对社会分歧陈述的逻辑有效性的辨别。我们的结果显示,与没有反馈甚至总是正确的系统的因果AI解释相比,AI框架下的提问显著提高了人类对逻辑错误陈述的辨别能力。我们的实验展示了未来人机协同推理系统的风格,在这种系统中,AI成为批判性思维的刺激者,而不仅仅是信息提供者。

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/papers/chi/96341/2023

广告推荐

学习 AI 编程到 CodeNow

open_in_new打开DOI链接
DOI: https://doi.org/10.1145/3544548.3580672
一眼看懂

论文快照

fact_check
dataset
来源
CHI
calendar_month
年份
2023
emoji_events
奖项
未标记奖项
group
作者
4 位作者
sell
研究子方向
可解释人工智能(XAI)、隐私设计与用户控制
work
职业/产业
AI/ML 研究员与工程师、HCI 研究员
article
内容状态
仅摘要
hub
相关论文
10 篇相关论文