在众包微任务中使用工人自我评估进行基于能力的预选
作者
众包任务设计与质量控制Amazon Mechanical Turk 工作者
付费众包平台已经发展成为令人瞩目的市场,在这里,请求者可以利用人类智能来满足多种目的,而劳动力可以通过投资他们的努力获得经济回报。在这项工作中,我们关注个体众包工作者的能力。通过借鉴心理学中的自我评估理论,我们展示了众包工作者往往缺乏对自己真正能力水平的认识。因此,尽管工人希望保持良好的声誉,但他们往往参与超出自己能力的任务。我们揭示了个体工人能力的多样性,并提出了在众包市场中基于能力的预选案例。我们展示了错误的自我评估对现实世界微任务的影响,并提出了一种考虑工人自我评估准确性的新颖预选方法。我们在情感分析任务中评估了我们的方法,并观察到与传统的基于绩效的工人预选相比,准确率提高了15%以上。同样,我们提出的方法在图像验证任务中准确率提高了近6%。我们的结果表明,众包平台中的请求者可以通过考虑工人的自我评估以及他们的绩效来进行预选,从而受益。
研究问题 / 现实痛点
这篇论文在当前问题库中对应的问题线索。
当前问题库还没有收录这篇论文的问题与痛点。
- 100%
承诺工作:通过众包进行在线志愿服务
CHI '19· 众包任务设计与质量控制
- 100%
HistoryTracker: 在棒球比赛标注中最小化人类互动
CHI '19· 众包任务设计与质量控制
- 100%
两个工具优于一个:工具多样性作为提高聚合众包性能的手段
IUI '18· 众包任务设计与质量控制
- 67%
亚马逊 Mechanical Turk 上工人收入的数据驱动分析
CHI '18· 众包任务设计与质量控制 +1
- 67%
时间紧迫:按需众包工作中灵活性的影响和价值
CHI '18· 众包任务设计与质量控制 +1
- 67%
Bolt:通过即时培训实现即时众包
CHI '18· 众包任务设计与质量控制 +1
- 67%
专家众包中不可分解的大任务的在线排序
CHI '18· 众包任务设计与质量控制
- 67%
理解并减轻众包收集主观判断中的工人偏见
CHI '19· 众包任务设计与质量控制 +1
- 67%
付费众包平台上的创造力
CHI '20· 众包任务设计与质量控制
- 67%
中国众包:探索独立众包工作者和众包农场工作者的工作经验
CHI '20· 众包任务设计与质量控制 +1
基于研究子主题与职业分类的 Jaccard 相似度(≥60%)
快捷操作
一眼看懂
fact_check论文快照
dataset
来源
CHI
calendar_month
年份
2018
emoji_events
奖项
未标记奖项
group
作者
5 位作者
sell
研究子方向
众包任务设计与质量控制
work
职业/产业
Amazon Mechanical Turk 工作者
article
内容状态
仅摘要
hub
相关论文
10 篇相关论文