'为什么《芝加哥》是误导性的?' 为人类构建模型驱动教程的尝试

大语言模型(LLM)的人机协作可解释人工智能(XAI)AI 辅助决策与自动化系统HCI 研究员认知科学家

为了用机器学习模型支持人类决策,我们经常需要阐明嵌入模型中的人类不明显、未知或违反直觉的模式。虽然现有方法侧重于通过实时辅助解释机器预测,但我们探索了模型驱动的教程,以帮助人类在培训阶段理解这些模式。我们考虑了从科学论文中获取指南的教程,类似于当前的科学传播实践,以及从训练数据中自动选择的带有解释的示例。我们使用欺骗性评论检测作为测试平台,并进行了大规模、随机的人类受试者实验,以检查此类教程的有效性。我们发现,教程确实提高了人类的表现,无论是否有实时辅助。特别是,尽管深度学习比简单模型提供了更优越的预测性能,但来自简单模型的教程和解释对人类更有用。我们的工作为人类中心的教程和解释指明了未来方向,以实现人类和AI之间的协同作用。

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/papers/chi/31745/2020

广告推荐

学习 AI 编程到 CodeNow

open_in_new打开DOI链接
DOI: https://doi.org/10.1145/3313831.3376873
一眼看懂

论文快照

fact_check
dataset
来源
CHI
calendar_month
年份
2020
emoji_events
奖项
未标记奖项
group
作者
3 位作者
sell
研究子方向
大语言模型(LLM)的人机协作、可解释人工智能(XAI)、AI 辅助决策与自动化系统
work
职业/产业
HCI 研究员、认知科学家
article
内容状态
仅摘要
hub
相关论文
10 篇相关论文