设计中的本体论：想象一棵树如何揭示大型语言模型中的可能性和假设

研究背景与问题

• 作者发现了哪些问题或挑战？ 本文强调，当前对生成式人工智能（Generative AI，简称Gen AI）和大语言模型（LLMs）的分析多集中在价值观和伦理（axiology）层面，例如数据中的偏见问题，而忽略了对本体论（ontology）的关注。作者指出，现有技术的本体假设决定了我们能够思考和讨论的范围，这给未来设计带来了局限性，并可能导致本体层面的长期隐性伤害（ontological harm）。

• 为什么这个问题很重要？ 本体论不仅仅是关于某事“是什么”的学术探讨，其决定了设计如何塑造我们的存在方式。未充分考虑本体论的设计可能固化现有世界观，抹杀文化多样性，对技术系统的使用方式和影响带来深远后果。例如，人工智能在生成结果时是否包含多样化的文化视角，直接关系到社会公正和包容性。

• 研究动机与相关工作 尽管已有学术努力关注明确的价值选择和伦理遵从，但本文提出本体论是更基础却被低估的维度。传统的人工智能研究往往被批评为采用过于理性主义或西方中心主义的技术哲学。通过考察生成式人工智能和大语言模型的本体论表现，本文旨在开辟新的设计范式，使其不仅基于伦理考量，还能挑战单一的世界观。

解决方案

• 作者提出了哪些方法或解决方案？

  1. 作者提出四个本体论设计取向：多元性（pluralism）、扎根性（groundedness）、活跃性（liveliness）和实践性（enactment）。这些取向用于分析生成式人工智能和大语言模型如何展现现实假设或忽视多样本体可能性。
  2. 作者通过两个案例分析（LLM聊天机器人与基于LLM的智能代理架构）探讨这些取向如何在实际应用中揭示系统设计中的隐性假设和局限。

• 该解决方案的创新之处是什么？

  • 引入本体论作为研究和设计的焦点，填补了现有伦理和价值导向研究的空白。
  • 四个本体论取向提供了综合的分析框架，使能够捕捉生成式人工智能设计过程中被忽视的深层问题。
  • 将本体论与设计实践结合，从实际案例中揭示多样化设计的潜能。

• 实施步骤是什么？使用了哪些关键技术？

  • 第一步：定义四个本体论取向：

    • 多元性：探讨是否容纳多样的现实视角，或仅支持具有单一主导性的普适观点。
    • 扎根性：检查设计是否将假设本地化并嵌入具体语境，而非抽象化或本质化。
    • 活跃性：关注本体论视角是否被视为动态演变的，而非静态固定的。
    • 实践性：分析概念在实践中如何实现，以及设计目标与实际产出的间隙。

  • 第二步：案例分析：

    1. 提示实验：向四个大语言模型（包括GPT-3.5、GPT-4、Copilot和Bard）提出一系列本体论相关问题，观察其回应是否反映多元和动态的本体观，并探索嵌入的隐性假设。
    2. 智能代理架构分析：通过对基于LLM的“生成代理（Generative Agents）”架构的设计与实现细节展开研究，检查其基于认知架构所隐含的人类定义及设计的本体论假设。

研究成果

• 取得了哪些具体成果？

  1. 四个本体论取向总结了设计中的关键问题：

     • 多元性：当前LLM虽然能够表面展示观点的多样性，但仅在被具体提示时才这样做，普遍缺乏对非西方世界观的主动体现。
     • 扎根性：LLM输出经常通过抽象的泛化来表示文化复杂性，而忽视了具体语境和文化根源。
     • 活跃性：尽管有些模型声称其认知视角会随数据而变化，但实际上缺乏动态调整的能力。
     • 实践性：评价过程和实际设计往往未能真正实现理论目标，例如以“人性”为基准进行的评估可能反而强化了非人性化的观点。

  2. 提示实验揭示了LLMs对特定问题（如“什么是人类？”）的隐含假设：

     • 模型普遍将人类定义为“生物个体”，忽视生态系统中互联存在的视角。
     • 对非西方视角的表述常呈现刻板化或抽象化。

  3. 对生成代理的分析表明，当前架构中高度简化的认知模型可能导致对人类记忆和情感的过度简化：

     • 例如，个体记忆的重要性被程序化为静态规则，忽视了文化、集体记忆或代际记忆的复杂性。
     • 评价标准（如“可信度”）侧重于完美模拟人类行为，而忽略了“错误”等特性对人性的重要意义。

• 与现有解决方案相比，它有哪些优势？

  • 本文独特地结合了哲学本体论与生成式人工智能设计实践作为分析框架。
  • 拓展了以往仅关注数据偏差和伦理对策的研究，揭示了技术架构中的隐性假设，并提出通过设计干预扩展现实可能性的可能路径。

• 实验或评估结果是什么？

  • 针对提示实验，研究发现大多数语言模型在被明确提示时才能展示本体多样性。然而，这种回应往往呈现抽象、刻板和表面化。
  • 对生成代理架构的分析揭示了其对人类认知的还原性假设，评估标准（如可信度测量）可能进一步固化这些误解。

• 局限性与未来方向

  1. 局限性：

     • 当前研究无法纵向追踪模型及架构的长期动态演变（如本体论随时间的变化）。
     • 缺乏系统化的比较与分类标准来衡量本体论设计的影响。
     • 研究中分析的LLM和代理系统依赖现有的主流设计理念，无法全面代表其他可能的创新架构。

  2. 未来方向：

     • 开发新的技术参数或架构层级以加强本体多样性与动态性输出。
     • 探索方法以更好揭示设计和实践中的本体论隐喻及假设。例如，通过设计中的“破裂性体验”或错位（disorientation）。
     • 深入研究生成式人工智能如何扩展而非固化人类对现实的想象。
     • 探讨如何在数据治理层面将多样化的文化实践与传统纳入训练过程。

总结

本文的研究提出了一种系统框架，用于分析生成式人工智能设计中的本体论缺失及其相应的伤害效应。通过案例分析，作者明确四个核心取向如何帮助揭示隐性假设并推动多样化、动态化的设计实践。这项研究为未来在生成式人工智能领域中植入多元和动态的本体论框架提供了深刻启示，并以其哲学深度和实践导向在相关领域具有重要原创价值。