生成幽灵：预测AI余生的益处与风险

研究背景与问题

作者发现了哪些问题或挑战？

作者探讨了随着生成式人工智能系统技术的快速进步，有可能在未来成为常见实践，即通过定制的 AI 代理与逝者互动。这些系统被称为“生成幽灵”，能够生成新的内容，而不仅仅是重复用户在生前生产的内容。作者关注的是如何设计这些技术，同时权衡其潜在的积极影响和可能存在的社会、伦理风险。

为什么这个问题很重要？

随着生成式人工智能的进一步普及，对文化、个人和社会实践产生深远影响是不可避免的。具体来说，它可能改变我们对死亡、悲伤和纪念的传统做法，甚至对法律、遗产规划以及宗教信仰产生影响。对该技术的深远挑战和风险进行全面评估是确保社会良性发展的关键。

研究动机与相关工作

作者应用历史技术文献来反思 AI 在死后纪念实践中的潜力，并审查现有的尝试，如个人爱好者和初创公司用 AI 技术创建“生成幽灵”。此外，现有的与数字遗产与后事相关的研究（如“数字遗产”和“在线追悼”等）强调了在技术如何整合进文化习俗的领域存在未解决的问题和挑战。

解决方案

作者提出了哪些方法或解决方案？

作者提出了一种新的“设计空间框架”，用于描述生成幽灵的潜在设计维度。这些维度包括：来源（自愿 vs.他方创作的幽灵）、部署时间线（死前 vs.死后）、拟人化程度、表象演化模式、身体化表现等。同时，还从技术和伦理角度分析可能的潜在影响和应用场景。

该解决方案的创新之处是什么？

• 提出了“生成幽灵”的新概念，将其扩展为生成内容和执行任务能力的多功能系统，而不是单纯复述逝者的数据或内容。
• 构建了一个多维设计空间，系统性地描述生成幽灵可以具有的特征和何种设计选择可能带来特定的风险或优势。
• 结合技术发展、文化差异与道德规范，引导未来有关此类技术的研究与实践，避免潜在负面后果。

实施步骤是什么？使用了哪些关键技术？

作者基于文献分析和案例研究方法构建了设计空间框架，同时对比了不同的选择（如交互接口的设计、幽灵的维护方式等）可能导致的结果。没有详细说明具体的实现技术，但提及使用大语言模型（如 GPT-4、PaLM-2 等）及其他生成式 AI 的进步作为技术基础。

研究成果

取得了哪些具体成果？

1. 理论贡献：定义生成幽灵作为一个新的社会技术现象，并构建了一个结构化设计框架。
2. 伦理与社会分析：揭示了生成幽灵可能带来的社会心理（例如可能帮助哀悼者也可能加剧复杂的悲伤）、隐私泄漏风险和经济影响等问题。
3. 研究议程：提出了未来研究关键领域，例如与多元文化群体的用户研究、基于相关技术的实验设计，以及制定适当政策以规避其潜在风险。

与现有解决方案相比，它有哪些优势？

与简单的在线纪念或现有的较低复杂度“悲伤机器人”（griefbots）相比，生成幽灵：

• 能够利用生成内容的能力，让逝者“参与”复杂任务或情境。
• 融入更多的拟人化和个性功能，提升交互体验和技术的应用范围。
• 在设计维度上存在更多可能性，如设定幽灵进化规则、添加幽灵社会经济能力等。

实验或评估结果是什么？

本文未直接提供实验评估结果，作者的分析主要基于文献和推测框架。后续工作建议包括建立原型用于用户研究和验证设计选择的影响。

局限性与未来方向

• 局限性：目前研究主要是理论性和框架性分析，缺乏实际的用户数据和实现细节；尚未涵盖所有文化群体的需求和接受度。
• 未来方向：
  • 继续研究设计维度与其对个体和社会的具体影响之间的关系。
  • 探索生成幽灵在不同文化中的适用性及接受程度。
  • 开发原型系统以评估实际用户的心理与行为反应，尤其是伦理投射相关的研究。
  • 设计适当的政策和法律框架以规范“第三方生成幽灵”的行为及避免不当使用。

这个研究为深入探讨人工智能在未来社会中的可能应用以及如何管理复杂伦理与社会问题提供了价值性视角，同时提出了清晰的研究议程以推动相关领域的发展。