体现算法：通过艺术表演探索与大型语言模型的关系

文献标题

Embodying the Algorithm: Exploring Relationships with Large Language Models Through Artistic Performance

文献信息

• 主题领域: 人机交互（HCI）、算法研究、大型语言模型（LLMs）与艺术表现
• 关键词: embodiment, human-computer interaction, GPT-3, algorithm, performance art, sense-making, AI collaboration, physicality, artistic research, agency

研究背景与问题

• 问题或挑战:

  • 尽管算法系统在人类生活中的广泛应用，相关研究较少关注人类与算法互动过程的“物质性”和“身体性”。
  • 当前算法（尤其是LLMs如GPT-3）给出的指令往往忽略了人类身体的局限性，直接或间接导致与人类的“协作”失败。
  • 在多个上下文中，人类倾向于将算法人格化，赋予其意图与意义，但实际上算法并不具备这种能力。
  • 现有关于算法行为的研究多关注技术设计层面，但对其对身体和感性体验的影响研究较少。

• 研究重要性:

  • 现代算法大量嵌入社会生活，例如内容推荐、广告、语音助手等，塑造了人们的行为方式与生活习惯。
  • 探讨人与算法的互动与身体性，可以更全面认识算法社会效应，尤其是算法和人类合作的可能性及其局限性。
  • 研究可以揭示算法忽略人类身体及复杂社会背景而可能带来的不平等与风险。

• 研究动机:

  • 提出了一种通过艺术表现与算法互动的全新思路，旨在揭示这些算法如何影响人类体验，以及人类如何通过身体先验性做出回应。

解决方案

• 方法或解决方案:

  • 作者通过一系列艺术研究结合人机交互分析的方法，实施了一个名为**"Embodying the Algorithm"**的实验性项目。具体来说：
    • 艺术表现：邀请专业表演艺术家基于GPT-3自动生成的表演指令进行耐力表演。
    • 身体化实验：通过表演艺术家用身体“执行”这些生成文本，探索算法生成指令对身体的直接影响，并捕捉人类如何透过身体来反映和解读指令。
    • 多模态关系研究：通过艺术家和GPT-3间的交互划分出三种可能的关系模式（对算法的关系而非协作）。

• 创新之处:

  1. 通过设计极端的算法生成指令，与人类身体界限互动，突破传统对算法研究的“抽象化”局限。
  2. 使用耐力表演艺术（endurance performance）作为方法，探讨人类在身体与算法之间的紧张感及其意义生成。
  3. 深刻分析传统上的“合作”在人与算法间的不可行性。

• 实施步骤:

  • 生成指令：使用GPT-3生成表演指令集（通过“艺术表演输入文本提示”设置的方式）。
  • 实验设计：5位表演者选择指令，并自行演绎和录制表演。
  • 质性访谈：研究通过深入访谈与收集表演阶段数据，观察参与艺术家如何解读和回应GPT-3。
  • 数据分析：基于访谈和表演结果归纳、分析模式化的互动关系。

• 关键技术:

  • GPT-3作为生成语言模型，生成了表演艺术的初始指令。
  • 艺术研究方法（Artistic Research）作为知识生产工具支持实验架构。

研究成果

• 具体成果:

  1. 三种人与算法的关系模式：

     • 对抗模式（Agonistic）：当指令忽视人体局限性时，表演者通过反抗、重塑指令表现出抗争。
     • 敷衍模式（Perfunctory）：表演者机械地完成执行任务，无情感介入或推测算法意图。
     • 顺应模式（Agreeable）：表演者偶尔对算法表现出“愉悦”的顺应性，但这往往是一种误判，认为算法能理解或回应。

  2. 感知生成模式的关键方法：

     • 通过反射（Reflexivity）、诠释（Interpretation）、人格化（Personification）感受并解读算法文本结果，尽管这些解读中人类不断要求对算法的“意图”赋予意义。

  3. 算法与身体局限性之间的张力：

     • GPT-3生成的指令未对执行主体表现出关怀，例如忽视生理疲劳甚至生命威胁的场景——如死后复活的指令。

• 与现有研究相比的优势:

  • 提出算法对人类身体直接影响的独特视角，弥补了过于“抽象”的算法研究的不足。
  • 探讨算法如何与物质、感官和身体之间存在冲突，提供算法公平性设计的重要启示。

• 实验或评估结果:

  • 表现者的行为体现了应对算法“误解”人类局限的能力，如通过合理解释改变原始指令、使用创造性方式弥补指令的苛刻性。
  • 清晰揭示出“与算法合作”是当下面向大语言模型的伪命题，因为算法缺乏真实的意图和反馈能力。

• 局限性与未来方向:

  • 局限性:
    • 仅5位表演艺术家参与，样本数量与人群多样性有限。
    • 研究集中的GPT-3模型可能无法完全泛化到其他算法。
  • 未来方向:
    • 扩展至不同人群和背景下研究，重点分析多样化个体如何“重新赋义”算法行为。
    • 探讨设计能允许用户反抗算法规则的具体机制，减少社会风险。

通过本研究，作者对人与算法互动提出了多维度的分析框架，同时警示了算法设计中考虑“人性化拟态”可能在伦理与实践上的严重后果，为未来技术设计与政策制定提供了重要参考。