在众包微任务中使用工人自我评估进行基于能力的预选

众包任务设计与质量控制Amazon Mechanical Turk 工作者

付费众包平台已经发展成为令人瞩目的市场,在这里,请求者可以利用人类智能来满足多种目的,而劳动力可以通过投资他们的努力获得经济回报。在这项工作中,我们关注个体众包工作者的能力。通过借鉴心理学中的自我评估理论,我们展示了众包工作者往往缺乏对自己真正能力水平的认识。因此,尽管工人希望保持良好的声誉,但他们往往参与超出自己能力的任务。我们揭示了个体工人能力的多样性,并提出了在众包市场中基于能力的预选案例。我们展示了错误的自我评估对现实世界微任务的影响,并提出了一种考虑工人自我评估准确性的新颖预选方法。我们在情感分析任务中评估了我们的方法,并观察到与传统的基于绩效的工人预选相比,准确率提高了15%以上。同样,我们提出的方法在图像验证任务中准确率提高了近6%。我们的结果表明,众包平台中的请求者可以通过考虑工人的自我评估以及他们的绩效来进行预选,从而受益。

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/papers/chi/5623/2018

广告推荐

学习 AI 编程到 CodeNow

一眼看懂

论文快照

fact_check
dataset
来源
CHI
calendar_month
年份
2018
emoji_events
奖项
未标记奖项
group
作者
5 位作者
sell
研究子方向
众包任务设计与质量控制
work
职业/产业
Amazon Mechanical Turk 工作者
article
内容状态
仅摘要
hub
相关论文
10 篇相关论文