SenseMate:一个面向定性数据分析的无障碍、 beginner友好型人机协作平台
社区组织在利用定性数据分析或意义建构的力量来理解其成员提出的多样观点和需求方面面临挑战。意义建构中最耗时且最繁琐的部分之一是定性编码,即在大量非结构化的社区输入中识别主题的过程。定性编码中的一个挑战是实现高水平的编码者间信度,尤其是在专家和新手意义建构者之间。在本工作中,我们提出了 SenseMate,这是一种旨在帮助进行定性编码的新型人机协作系统。SenseMate 利用理由提取模型(一种半自动化意义建构的新机器学习策略)来生成主题推荐和人类可解释的解释。这些模型训练于一个数据集,该数据集包含人们在波士顿生活的经历,由专家意义建构者标注了主题。我们通过迭代的、以人为中心的设计流程将理由提取模型集成到 SenseMate 中,该流程围绕从广泛文献综述中得出的四个关键设计原则展开。设计过程包括三个迭代周期,持续收集七名与社区组织相关人员的反馈。通过一项涉及 180 名新手意义建构者的在线实验,我们旨在确定人工智能生成的推荐和理由是否会缩短编码时间、提高编码者间信度(即 Cohen's κ 值),并减少新手和专家编码决策之间的差异(即参与者答案与专家标准答案的 F-score)。我们发现,虽然模型推荐和解释使每个分析单元的编码时间增加了 49 秒,但它们将编码者间信度提高了 29%,将编码 F-score 提高了 10%。关于 SenseMate 设计的效果,参与者普遍认为该平台易于使用。总之,SenseMate(1)面向没有技术背景的新手意义建构者,这是先前工作未关注的用户群体;(2)实施理由提取模型来推荐主题和生成解释,这在用户隐私和控制方面相对于大型语言模型具有优势;(3)包含基于用户反馈的原创且直观的功能,可应用于未来的定性数据分析系统。
研究问题 / 现实痛点
这篇论文在当前问题库中对应的问题线索。
研究问题
3- 如何设计一个初学者友好的平台,使其能够利用人机协作高效进行定性数据分析?分类: 人机协同标注与示例选择同类问题arrow_forward
- 解释性人工智能模型如何帮助初学者在定性编码中提升一致性和质量?分类: 人机协同标注与示例选择同类问题arrow_forward
- 用户反馈机制如何影响人机协同定性数据分析平台的性能和用户体验?分类: 人机协同标注与示例选择同类问题arrow_forward
现实痛点
1- 社区组织缺乏易用工具来高效分析调查和访谈数据。分类: 人机协同标注与示例选择同类问题arrow_forward
- 67%
AI of Oz:利用人工智能辅助人工Moderator增强人机交互中的Wizard of Oz研究
CHI '26· 大语言模型(LLM)的人机协作 +2
- 67%
基于大语言模型的临界论文阅读现场思考交流
IUI '26· 大语言模型(LLM)的人机协作 +2
- 67%
DiscipLink:通过人机协同探索促进跨学科信息寻求过程
UIST '24· 大语言模型(LLM)的人机协作 +2
- 60%
人机交互工具包研究的评估策略
CHI '18· 用户研究方法(访谈、调查、观察) +1
- 60%
人机交互的实证研究方法
CHI '18· 用户研究方法(访谈、调查、观察) +1
- 60%
技术辅助反思量表的发展与验证
CHI '21· 用户研究方法(访谈、调查、观察) +1
基于研究子主题与职业分类的 Jaccard 相似度(≥60%)