人工智能知识:通过人类赋能提升人工智能委托
大语言模型(LLM)的人机协作AI 辅助决策与自动化系统AI/ML 研究员与工程师HCI 研究员
文献标题
AI Knowledge: Improving AI Delegation through Human Enablement
文献信息
- 主题领域: 人工智能(AI)与人类之间的任务分配与协作
- 关键词: AI 委派, AI 素养, AI 教育, AI 技能, 认知评价理论
研究背景与问题
- 问题或挑战: 在随着AI技术发展的人类与AI协作中,任务委派被认为是提高效果的关键。然而,大多数人在没有专门训练的情况下难以有效地进行任务委派。这种低效率可能会妨碍人-AI协作的潜力。
- 研究重要性: 任务委派能力被证明能够显著提高团体或组织的绩效。例如,高效的任务委派领导者可以带来更好的收入和决策效果。
- 研究动机: 尽管AI技术本身的设计和改进在增强人-AI协作中取得了明显成绩,但对人类特性(例如知识或技能)的研究仍然不足。理解人类的AI知识如何影响任务委派能够为实践和未来研究提供可靠指导。
解决方案
- 方法或解决方案:
- 提出基于认知评价理论的研究模型,将任务评价的“人适配性(human-fit)”与“AI适配性(AI-fit)”作为任务委派决策的核心驱动因素。
- 分析AI知识如何作为调节因素,使AI委派行为更加符合任务评价。
- 用基于ImageNet数据集的图像分类实验验证模型,实验设计包括AI知识启发、任务委派和绩效评估。
- 创新之处:
- 提出“任务评价”作为任务委派的核心机制,细化人类对于自己和AI适配性的判断如何影响委派决策。
- 首次揭示AI知识启发不仅能够提高绩效,还可能降低未来使用AI的意愿,提出了对AI知识“非完全积极”影响的观念。
- 实施步骤:
- 实验包含四个阶段:预调查问卷、AI知识启发、任务委派阶段和后调查问卷。
- 实验组通过文字材料学习AI与人类在图像分类任务中的优缺点,并通过总结题目检查学习效果。
- 两组完成任务委派,并用线性回归与结构方程模型分析数据。
研究成果
- 具体成果:
- 发现#1: 任务评价(包括人适配性和AI适配性)能够解释知识启发后的人类任务委派行为。
- 发现#2: AI知识促进委派行为与任务评价的对齐,从而提升人-AI协作的任务绩效。
- 发现#3: AI知识降低了AI使用持续意图(AUCI),提出了其负面影响的需要进一步调查。
- 与现有解决方案的差异或优势: 与仅关注AI技术设计的解决方案相比,该研究引入了对人类特性的分析,为AI应用设计提供了独特的视角。
- 实验或评估结果:
- 比较实验组与控制组在任务委派行为、绩效和AUCI上的差异,显著证明AI知识的作用。
- 提高委派行为使图像分类准确度增加至20%以上。
- AI知识使使用持续意图降至约0.37(以7分量表计)。
- 局限性与未来方向:
- 研究局限于短期效应,未来需要调查AI知识的长期影响。
- 对AI知识的社会部分与技术部分的分开探讨可以明确哪些具体知识有利或不利。
- 探索不同启发方法(如游戏化学习)在AI知识教育中的优势,为设计更优培训方案提供依据。
研究问题 / 现实痛点
这篇论文在当前问题库中对应的问题线索。
help
研究问题
3- 人如何评估任务的自我适配性和AI适配性以进行任务委派?分类: AI理解、任务委派与算法治理实践同类问题arrow_forward
- AI知识(如AI的优势和劣势)如何影响人类的任务委派行为和性能?分类: AI理解、任务委派与算法治理实践同类问题arrow_forward
- AI知识对未来AI持续使用意图(AUCI)是否会产生负面影响?分类: AI理解、任务委派与算法治理实践同类问题arrow_forward
lightbulb
现实痛点
1- 很多人缺乏有效分配任务给AI的能力,导致人机协作效率低下。分类: AI理解、任务委派与算法治理实践同类问题arrow_forward
- 100%
人类与AI交互中沟通方向性和AI代理差异的影响
CHI '21· 大语言模型(LLM)的人机协作 +1
- 100%
迈向人机审议:设计和评估用于AI辅助决策的LLM增强审议AI
CHI '25· 大语言模型(LLM)的人机协作 +1
- 100%
交互强化学习综述:设计原则与开放挑战
DIS '20· 大语言模型(LLM)的人机协作 +1
- 80%
你使我完整:人类-人工智能团队与互补专长
CHI '22· 大语言模型(LLM)的人机协作 +1
- 80%
胜任但僵化:识别赋予AI平等参与群体决策能力的差距
CHI '23· 大语言模型(LLM)的人机协作 +1
- 80%
为什么约翰尼不能提示:非AI专家如何尝试(并失败)设计LLM提示
CHI '23· 大语言模型(LLM)的人机协作 +1
- 80%
从大规模交互痕迹中自动挖掘宏命令
CHI '24· 大语言模型(LLM)的人机协作 +1
- 80%
从文本到信任:利用自适应LLM驱动分析增强AI辅助决策
CHI '25· 大语言模型(LLM)的人机协作 +2
- 80%
哪些贡献值得认可?人类与AI共同创作中的归属感认知
CHI '25· 大语言模型(LLM)的人机协作 +2
- 80%
提示词写作中的满足倾向与最大化倾向:人机交互中的特质与任务效应
CHI '26· 生成式AI(文本、图像、音乐、视频) +2
基于研究子主题与职业分类的 Jaccard 相似度(≥60%)
快捷操作
广告推荐
学习 AI 编程到 CodeNow
open_in_new打开DOI链接
DOI: https://doi.org/10.1145/3544548.3580794
一眼看懂
fact_check论文快照
dataset
来源
CHI
calendar_month
年份
2023
emoji_events
奖项
未标记奖项
group
作者
3 位作者
sell
研究子方向
大语言模型(LLM)的人机协作、AI 辅助决策与自动化系统
work
职业/产业
AI/ML 研究员与工程师、HCI 研究员
article
内容状态
已索引正文
hub
相关论文
10 篇相关论文