大型语言模型在质性研究中的应用:用途、张力与意图
作者
大语言模型(LLM)的人机协作用户研究方法(访谈、调查、观察)研究伦理与开放科学大学教授与研究人员HCI 研究员
研究背景与问题
-
问题与挑战:
- 论文关注大语言模型(LLMs)在定性研究中的使用、潜在张力及伦理问题。虽然LLMs被认为可能增强定性研究,但其适用性、伦理性及与定性研究目标和价值观的契合仍存疑。
- LLMs作为通用工具,允许灵活处理文档如总结和注释,而这可能过于偏向自动化,削弱研究者与数据之间的深入接触。
- 当前指导定性研究中使用LLMs的伦理和技术规范尚处于起步阶段,快速发展的技术可能与研究价值观,如深度理解和参与性,产生冲突。
-
重要性:
- LLMs在提高效率中的潜力引发关注,但缺乏框架去确保其与参与者隐私保护和伦理要求兼容。
- 人工智能工具正迅速普及,迫切需要研究者仔细评估其对于既有研究方法的影响,以免滑向过度依赖技术的“实证主义”路径。
-
研究动机与相关工作:
- 论文试图填补LLMs在定性研究角色的探索空白,回应学界长期以来对于定性与定量方法张力的讨论。
- 借助现有工作,如人类与AI协作的研究,本文旨在聚焦LLMs如何改变定性研究流程以及由此带来的哲学和实践挑战。
解决方案
-
方法或解决方案:
- 论文通过访谈法研究了20名定性研究者如何采用、思考和评价LLMs,以揭示其当前用途、惑点及潜力。
- 提出了研究者在借助LLMs过程中面临的伦理困境以及解决这些困境的初步建议。
-
创新之处:
- 强调了LLMs与定性研究价值(如参与深度、数据接触)的潜在张力,并探索LLMs如何与参与者隐私保护、伦理考量及研究目标相契合。
- 提出了具体的设计原则,用于构建能够支持研究者深度参与与数据互动的人工智能工具。
-
实施步骤与关键技术:
- 研究通过半结构化访谈收集数据,采用基于归纳法的主题分析框架提取核心主题。
- 数据分析过程通过Dedoose协作处理平台完成,注重研究过程中确认代码和研究结果的一致性。
研究成果
-
具体成果:
- 当前LLMs在定性研究中的应用集中于生成访谈材料、数据检索和编码中的初步辅助,但在深度分析和复杂数据解释方面仍有局限。
- 访谈揭示了研究者对LLMs带来的隐私、偏见和伦理等问题的深切关注,提出应强化研究工具对隐私保护和数据透明度的支持。
- 提出了研究者的具体指南,包括任务选择的意图性、隐私保护的优先级及LLMs性能的验证等。
-
与现有解决方案的比较:
- 与早期的人工智能辅助研究工具相比,LLMs的自然语言交互和灵活性促进了研究者与工具间的协作,但也削弱了许多定性研究者希望保持的经验与数据的密切关系。
-
实验或评估结果:
- 数据显示,虽然许多研究者对技术表示好奇,但面临时间、技能与工具选择上的障碍。
- 多数参与者希望在LLMs应用上保持主动性,例如在模型调用或生成主题上人工参与较深。
-
局限性与未来方向:
- 局限性:
- 参与者主要来自北美高等教育机构,可能未能代表非西方或更为局部的学术视角。
- 研究聚焦在现有工具如ChatGPT,而未深入探讨完全可控的开源模型生态。
- 未来方向:
- 探索跨文化研究中LLMs的潜力与挑战,尤其对于语言与文化背景多样的群体。
- 构建参与者隐私保护最优化的开放性LLM工具,并提供对其集成方法的指导。
- 系统化验证框架以帮助研究者评估LLMs性能,同时推动研究工具透明化。
- 局限性:
总结
本文为定性研究者提供了理解和评估LLMs使用的清晰框架,对其可能的机会和局限性进行了全面讨论,并提出了设计可以更有效支持定性研究价值的人工智能工具的原则。这些建议为学界未来进一步发展工具和规范化LLMs在研究中的使用奠定了基础。
研究问题 / 现实痛点
这篇论文在当前问题库中对应的问题线索。
help
研究问题
3- 大语言模型(LLMs)是否可以与定性研究的价值观和目标相兼容?分类: 语音、对话代理与个人信息隐私同类问题arrow_forward
- 在定性研究中,研究者如何看待LLMs在隐私保护和伦理方面的挑战?分类: 语音、对话代理与个人信息隐私同类问题arrow_forward
- 有哪些设计原则可以帮助LLMs支持研究者深入参与和互动数据?分类: 语音、对话代理与个人信息隐私同类问题arrow_forward
lightbulb
现实痛点
1- 定性研究中,自动化工具可能影响研究者与数据的深度互动。分类: 语音、对话代理与个人信息隐私同类问题arrow_forward
- 80%
不要忘记保持真实的自己:如何建立一个有意义且可持续的研究身份
CHI '18· 用户研究方法(访谈、调查、观察) +1
- 80%
Cody:基于AI的系统,用于定性研究的半自动化编码
CHI '21· 大语言模型(LLM)的人机协作 +1
- 80%
为促进开放科学的采用而设计知识构建:规划设计空间
CHI '22· 用户研究方法(访谈、调查、观察) +1
- 80%
不同的研究人员,不同的结果?分析研究人员经验和数据类型在对安全建议的访谈和调查研究的定性分析中的影响
CHI '23· 用户研究方法(访谈、调查、观察) +1
- 80%
ReviewFlow:支持学术同行评审的智能脚手架系统
IUI '24· 大语言模型(LLM)的人机协作 +1
- 67%
为可重复性而设计:高能物理学中挑战与机遇的质性研究
CHI '19· 用户研究方法(访谈、调查、观察) +2
- 67%
我们是否在轨道上?会议期间由AI辅助的主动和被动目标反思
CHI '25· 大语言模型(LLM)的人机协作 +2
- 67%
IdeaSynth:通过演化和组合具有文献支持反馈的研究想法要素进行迭代研究想法开发
CHI '25· 大语言模型(LLM)的人机协作 +2
- 67%
关于SIGCHI的开放获取
CHI '26· 研究伦理与开放科学 +2
- 67%
当审稿人收到人工智能反馈时会发生什么?
CHI '26· 大语言模型(LLM)的人机协作 +2
基于研究子主题与职业分类的 Jaccard 相似度(≥60%)
快捷操作
广告推荐
学习 AI 编程到 CodeNow
open_in_new打开DOI链接
DOI: https://dl.acm.org/doi/10.1145/3706598.3713120
一眼看懂
fact_check论文快照
dataset
来源
CHI
calendar_month
年份
2025
emoji_events
奖项
未标记奖项
group
作者
5 位作者
sell
研究子方向
大语言模型(LLM)的人机协作、用户研究方法(访谈、调查、观察)、研究伦理与开放科学
work
职业/产业
大学教授与研究人员、HCI 研究员
article
内容状态
已索引正文
hub
相关论文
10 篇相关论文