设计法庭：探索新兴技术伦理的工作坊

研究背景与问题

• 发现的问题或挑战:

  • 当前HCI（人机交互）需要更多关注伦理问题，但对采用何种伦理系统以及如何将伦理问题纳入设计过程缺乏共识。
  • 新兴技术（如人工智能、物联网等）与复杂的伦理、法律和社会文化背景交织，这种复杂性使得简单的法律合规无法应对技术扩散所带来的伦理挑战。

• 问题的重要性:

  • 设计师不仅是技术开发者，更是监管者，需对技术的法律和社会影响负责。
  • 技术设计中快速变化带来的伦理和法律问题往往滞后于技术发展（“速度不匹配问题”）。
  • HCI需要方法在设计早期阶段有效融入对复杂伦理、法律以及社会后果的考虑。

• 研究动机与相关工作:

  • 借鉴设计小说（Design Fiction）和法律思维实验，这些方法提供框架化思考未来技术问题的方式。
  • 现有一些研究（如伦理影响评估、价值敏感设计等）尝试在设计阶段嵌入伦理讨论，但缺乏易于操作性和跨文化对话的启发性方法。
  • 法律思维实验和设计小说各自善于构建情景并思考问题，但二者结合在伦理讨论中尚未被充分探讨。

解决方案

• 提出的方法或解决方案:

  • 提出了一种新的研讨会方法——“设计法庭”（Design Courts），其核心是通过模拟案件审判的方式，将法律和伦理对立观点置于角色扮演的对话框架中。
  • 设计法庭通过结合法律思维实验和设计小说，利用虚构设备“数据门”（Data Gates）作为技术讨论的核心。

• 创新之处:

  1. 使用模拟法庭审判的格式，让参与者扮演法官、律师、证人和陪审团，创造生动的参与机制。
  2. 引入“数据门”作为讨论伦理、隐私和技术设计的催化物，帮助架构新兴技术的伦理讨论。
  3. 模糊技术现实性与虚构之间的界限，鼓励参与者即兴发挥并提出多样化的法律和伦理观点。

• 实施步骤与关键技术:

  • 数据门案例创建:
    • 数据门被设定为一种保护隐私的虚拟装置，但其设计功能开放，由参与者根据案件自由解释。
    • 案情模拟参考真实案例（如Google侵入隐私诉讼案），以虚构原告“羞氏夫妇”诉谷歌侵犯隐私为背景进行讨论。
  • 角色分配与研讨会流程:
    1. 参与者被分配不同角色（如法官、律师、证人等）。
    2. 提供基础法律和情景材料。
    3. 通过角色扮演进行模拟案件审判，包括开庭陈述、证人质询、辩论和最终裁决。
  • 数据收集与分析:
    • 通过GDPR合规工具记录对话并转录。
    • 使用归纳的主题分析方法总结关键伦理讨论主题（如“意图与目的”“互惠与伪善”“绝对与相对隐私”）。

研究成果

• 具体成果:

  • 明确了设计法庭的三大讨论主题：
    1. 意图与目的：参与者讨论技术公司行为的伦理与技术动机（如谷歌的隐私侵入是否有正当意图）。
    2. 互惠与伪善：探讨用户隐私需求与对公共服务（如谷歌地图）的数据交换之间的伦理张力。
    3. 绝对与相对隐私：审视隐私的“绝对性”与“协商性”，以及如何在复杂社会情境中定义隐私权。
  • 判决结果:
    • 三次设计法庭中有两次裁定谷歌胜诉，一次偏向原告。这与现实中谷歌的实际胜诉相近。

• 与现有解决方案相比的优势:

  • 避免了伦理设计中的“解决主义”，强调对技术后果的深度讨论而非简单的技术修正。
  • 灵活性设计允许方法适用于不同国家和技术情境，如AI、虚拟现实等。
  • 方法适合多学科参与者，无需法律背景的参与者同样能够有效参与。

• 实验或评估结果:

  • 法庭讨论揭示了法律、技术和伦理问题的深度交互性。
  • 不同国籍和背景的参与者展现了各自法律文化对技术隐私等问题的独特理解与反思。
  • 参与者普遍认为方法有趣、有参与价值，讨论结果富有深度。

• 局限性与未来方向:

  • 局限性:
    1. 部分参与者因现实法律系统的不足感到限制。
    2. 不同文化对隐私和伦理的理解差异，需要更多跨文化的实验支持。
  • 未来方向:
    1. 扩展方法以涵盖其他技术问题，例如AI的伦理性评估。
    2. 测试混合学科背景群体的参与效果，而非只按专业分类。
    3. 探讨如何使方法满足更广泛的实际政策和技术设计背景。