设计中的可犯错性：审视机器人失败研究中主体性、方法和动机的知识政治

文献标题

Designing with Fallibility: Examining the Knowledge Politics of Agency, Methods, and Motivations in Robot Failure Research

出版信息

• 主题领域: 探讨机器人设计研究中关于失败的社会技术、伦理和政治维度。
• 关键词: 机器人失败性、人机交互、女性主义技术科学、设计研究、认识论、失败、社会技术系统、HRI、HCI、批判性设计。

背景与问题

• 问题/挑战: 现有关于机器人失败性的研究通常将失败视为改进的机会，但忽视了失败的社会、伦理和政治维度。对失败的定义、研究方式以及解决方法缺乏批判性反思，同时忽略了不同利益相关者的视角。
• 重要性: 将机器人失败性视为一种社会技术现象，可以促使设计实践更加包容、自省并具有政治意识，从而解决人机交互的更广泛社会影响。
• 动机与相关工作: 之前的HCI和HRI研究将失败视为设计机会，主要关注用户信任、交互质量和系统鲁棒性。然而，这些研究通常以设计者的视角为主，忽略了失败的集体性、关系性和情境性维度。本论文基于女性主义技术科学对这些研究空白进行批判性审视。

解决方案

• 提出的方法: 采用女性主义技术科学框架分析机器人失败性，聚焦三个关键维度：主体性（谁定义失败）、方法的表现性（方法如何塑造现实结果）以及研究动机（为何研究失败及其目的）。
• 创新点:
  1. 将机器人失败性重新定义为一种社会嵌入且具有争议性的类别。
  2. 突出研究方法在塑造现实世界中机器人失败的表现性作用。
  3. 批判机器人失败性研究背后的动机，强调自省性和包容性的重要性。
  4. 提供设计建议，推动更具伦理性和社会响应性的失败研究方法。
• 步骤与关键技术:
  • 对HRI和HCI领域关于机器人失败性的文献进行批判性解释性综述。
  • 应用女性主义技术科学概念分析失败的定义、研究方式及解决方法。
  • 将研究结果整合为可操作的设计建议。

结果

• 具体发现:
  • 设计者通常被赋予解释机器人失败的主要权力，而用户则被简化为被动的数据来源。
  • 研究方法不仅研究失败，还在现实世界中表现并塑造了机器人失败性。
  • 研究失败的动机通常优先考虑用户体验和经济收益，可能忽视更广泛的伦理和社会问题。
• 相较基线的优势: 提供了一个批判性、理论驱动的视角，超越了技术和行为分析，关注机器人失败性的社会政治和伦理维度。
• 实验/评估:
  • 通过对HRI/HCI文献的批判性综述，追踪引用网络，重点分析以失败为核心研究问题的研究。
  • 审视方法设置、认识论假设以及机器人失败性研究的现实影响。
• 局限性与未来工作:
  • 分析是解释性的而非系统性的，聚焦于特定的认识论和伦理问题。
  • 呼吁进一步开展关于机器人失败性的集体性、关系性和情感维度的实证研究。
  • 建议探索“解构”和“取消设计”作为修复导向设计的替代方案。

摘要

本文通过女性主义技术科学视角，批判性地审视了HRI和HCI研究中机器人失败性的定义、研究方式及解决方法。文章强调了失败的社会、伦理和政治维度，呼吁超越以设计者为中心和经济驱动的研究方法。作者主张将失败视为一种关系性和具有争议性的现象，由方法选择和研究动机共同塑造。他们提出了设计建议，优先考虑自省性、包容性和关怀，鼓励研究者重新思考机器人失败性研究中的规范性假设。此项工作为批判性HRI研究做出了贡献，倡导更加社会响应性和伦理性驱动的设计实践。