通过LLM驱动的魔鬼代言人增强AI辅助群体决策
大语言模型(LLM)的人机协作AI 辅助决策与自动化系统
群体决策在我们复杂且相互关联的世界中起着至关重要的作用。AI技术的兴起有可能提供数据驱动的见解来促进群体决策,尽管人们发现群体并不总是适当地利用AI援助。在本文中,我们旨在研究在AI辅助群体决策过程中引入魔鬼代言人是否以及如何帮助群体更好地利用AI援助,并改变决策过程中对群体过程的看法。现代大型语言模型(LLM)表现出卓越的会话能力,受此启发,我们设计了四种不同风格的LLM驱动的魔鬼代言人,根据其交互性(即交互式与非交互式)和反对目标(即质疑AI建议或群体多数意见)进行变化。通过随机人体实验,我们找到了证据表明,反对AI模型决策建议的LLM驱动的魔鬼代言人有可能促进群体对AI的适当依赖。同时,引入LLM驱动的魔鬼代言人通常不会导致人们完成群体决策任务时感知工作量的显著增加,而交互式LLM驱动的魔鬼代言人被认为更具协作性和更高质量。我们最后讨论了我们研究结果的实践意义。
研究问题 / 现实痛点
这篇论文在当前问题库中对应的问题线索。
help
研究问题
3- 在群体决策中,动态LLM“唱反调”设计是否能提升决策准确性?分类: LLM 信任与过度/不足依赖同类问题arrow_forward
- 批评AI建议的“唱反调”角色能否减少过度依赖AI的行为?分类: LLM 信任与过度/不足依赖同类问题arrow_forward
- 不同“唱反调”设计(例如静态与动态、针对AI与多数意见)各自对群体讨论质量的影响如何?分类: LLM 信任与过度/不足依赖同类问题arrow_forward
lightbulb
现实痛点
1- 在群体决策中,成员容易盲目信任AI建议,导致错误决策。分类: LLM 信任与过度/不足依赖同类问题arrow_forward
- 100%
重新思考交互:从工具性交互到人机合作
CHI '18· 大语言模型(LLM)的人机协作 +1
- 100%
依赖还是不依赖?评估对大型语言模型适当依赖的干预措施
CHI '25· 大语言模型(LLM)的人机协作 +1
- 100%
先计划后执行:一项关于用户信任和团队表现的经验研究,当使用LLM代理作为日常助手时
CHI '25· 大语言模型(LLM)的人机协作 +1
- 100%
C-PAK:纠正和补全基于可变长度前缀的缩写击键
UIST '23· 大语言模型(LLM)的人机协作 +1
- 67%
使用数字记录员自动化临床文档:理解对医生的影响
CHI '21· 大语言模型(LLM)的人机协作 +1
- 67%
统一对话模型中系统发起的闲聊与任务导向对话之间的转换
CUI '23· 对话式聊天机器人 +2
- 67%
TiiS:交互式机器学习的用户界面设计综述
IUI '19· 大语言模型(LLM)的人机协作 +2
- 67%
通过短言语反应时间诱导多智能体决策交互中的主动态度
IUI '19· 会话代理的人格与拟人化 +2
- 67%
探索机器学习素养干预对普通人依赖机器学习模型的影响
IUI '22· 大语言模型(LLM)的人机协作 +2
基于研究子主题与职业分类的 Jaccard 相似度(≥60%)
快捷操作
一眼看懂
fact_check论文快照
dataset
来源
IUI
calendar_month
年份
2024
emoji_events
奖项
未标记奖项
group
作者
4 位作者
sell
研究子方向
大语言模型(LLM)的人机协作、AI 辅助决策与自动化系统
work
职业/产业
—
article
内容状态
仅摘要
hub
相关论文
9 篇相关论文