以利益相关者为中心的人工智能设计：通过数据探针与零工工人共同设计工人工具

文献标题

Stakeholder-Centered AI Design: Co-Designing Worker Tools with Gig Workers through Data Probes

文献信息

• 主题领域: 人工智能设计（AI design）、参与式设计、用户中心设计与数据可视化在零工经济中的应用
• 关键词: 零工经济, 人工智能设计, 共同设计, 数据探针, 雇员福祉, 雇员驱动工具

研究背景与问题

• 作者发现了哪些问题或挑战？

  • 当前算法管理工具倾向于优先考虑平台利益，而非零工劳动者的福祉。
  • 人工智能设计过程中缺乏对关键利益相关者的重视，尤其是零工劳动者的情境（例如驾驶习惯、挣工资率及其身心健康）。
  • 对于如何利用零工工人的实际数据（如驾驶数据）进行AI工具设计仍未深入研究。

• 为什么这个问题很重要？

  • 零工经济已成为现代经济的重要组成部分，例如共享出行服务显著依赖人工智能算法进行管理与优化。然而，这些算法可能未经设计就会产生对工人不公平的管理或基于片面的数据做出决定。
  • 更加注重劳动者的视角可以改善劳动者的福祉，并带来更公平、更高效的管理工具。

• 研究动机与相关工作

  • 相关研究表明，设计探针（design probes）在探索用户行为模式和支持人工智能设计方面具有潜力。
  • 作者通过与零工劳动者共同设计工具，希望重新定义以工人为中心的人工智能工具，并着重解决工人福祉和算法公平性问题。

解决方案

• 作者提出了哪些方法或解决方案？

  • 使用数据探针的方法与零工工人共同设计人工智能工具，以探索如何帮助工人理解工作数据、优化工作策略，同时保护个人福祉。
  • 开发了基于工人个人和城市数据的五种数据探针，包括个人驾驶动画、地图、日历、时间分布柱状图以及一款基于城市级数据的工作规划工具。

• 该解决方案的创新之处是什么？

  • 通过数据探针作为边界物件（boundary object），工人从中反思和描述其工作模式，以及揭示影响其决策的个人情境因素。
  • 引入工人福祉和情境约束作为人工智能设计的重要因素，而非只专注于生产率或平台效益。
  • 将零工工人的真实数据和集体数据结合起来，不仅增强工人的参与度，还为工具的公平性和透明性奠定基础。

• 实施步骤是什么？使用了哪些关键技术？

  1. 采集工人和城市水平的历史数据，包括个人驾驶记录和芝加哥市的出租车数据。
  2. 创建五种数据探针：
     • 动画：展示某一天的驾驶轨迹动画。
     • 地图：基于不同区域展示工人的起点、终点和收益率。
     • 日历：用颜色高亮显示某天的收益情况，便于每天的对比。
     • 分时柱状图：基于每小时收入率的数据展示分布。
     • 工作规划工具：通过调整参数（如驾驶天数、时间、区域），预测工人的收入和开销。
  3. 与12名芝加哥零工司机共同进行为期两小时的设计会谈，逐步引导他们探索数据探针、分析其与城市平均数据的比较，并尝试优化工作计划。
  4. 数据收集采用Zoom记录会话，并结合质性分析。

研究成果

• 取得了哪些具体成果？

  1. 劳动者通过数据探针识别出影响其决策的关键因素，例如地震性（高薪时间和区域）与个人福祉权衡的关联。
  2. 阐明了多平台工作的复杂性及现有数据所缺失的信息（例如司机跨平台切换的具体模式）。
  3. 工人通过探针揭示和验证了平台算法的不公平性，例如系统偏好随机分配的地点和时间。

• 与现有解决方案相比，它有哪些优势？

  • 提供了完全以工人利益为中心的人工智能工具设计路线，而非以平台或开发者为中心。
  • 数据探针的多功能性不仅帮助劳动者理解自身状况，还为研究人员提供洞察力以改善工具设计。
  • 引入了可视化的方式，进一步降低劳动者的理解门槛，使其显著提升参与度。

• 实验或评估结果是什么？

  • 数据探针在研究中表现出作为边界物件的功效，使得工人有效地反思和交流其模式，并揭示数据之外的情境因素。
  • 例如，通过地图探针，不同劳动者可以快速识别出高收益但高风险地区，并说明这些风险如何影响其选择。

• 局限性与未来方向

  • 局限性：
    • 参与者样本有限，仅限芝加哥地区，并且高度依赖自愿提供数据的司机，因此可能具有数据素养偏高的样本偏差。
    • 部分关键变量由于数据访问权限不足（如跨平台数据），无法全面建模。
    • 研究方法是定性的，需要更多样本量的量化研究验证。
  • 未来方向：
    • 开发跨平台工具，以整合司机各平台数据，挖掘其综合工作模式。
    • 扩展到其他城市或工种，研究普通零工经济工作者能否通过类似工具获得福祉提升。
    • 探索数据探针在政策制定或工人集体行动中的应用价值，例如审计算法公平性或推动更高透明度。