TaleBrush：使用生成性预训练语言模型绘制故事

文献标题

TaleBrush: Sketching Stories with Generative Pretrained Language Models

文献信息

• 主题领域: 人机协作与生成文本的控制
• 关键词: 故事写作, 草图交互, 创造力支持工具, 故事生成, 可控生成

研究背景与问题

• 发现的问题或挑战:
  1. 现有基于生成语言模型（如GPT-3）的故事创作工具，主要采用用户与AI逐步互补生成的方式，但缺乏直观的交互形式来控制故事生成过程。
  2. 控制生成的算法在粒度控制方面存在限制，多数现有算法或工具只能在整个故事级别上提供控制，难以做到逐步控制。
  3. 在交互上，使用文本输入或滑块等方法难以直观呈现和操控生成内容。
• 重要性: 创作故事需要引导AI生成内容符合用户意图，同时允许用户高效写作并创新。为创作者提供一种直观且易于使用的方式，能显著提升人机协作的效率和效果。
• 研究动机与相关工作:
  1. 借鉴了Kurt Vonnegut提出的通过简单时序线条表示剧情人物命运变化的方式，开发一种更具可视化和交互性的方法。
  2. 需求集中在设计一种既直观又足够强大的交互方式，可帮助人类和AI共同完成生成故事情节的任务，同时增强用户对生成结果的理解和控制能力。

解决方案

• 提出的方法或解决方案: 提出了一种名为TaleBrush的系统，将草图交互与基于GPT的语言模型相结合，通过时序线绘制交互来表达和控制生成故事线索中的人物命运变化。

• 创新之处:

  1. 采用线条草图的形式，使用户可以通过绘制时间序列图直观控制主角的“命运”变化。
  2. 实现了与生成语言模型的无缝对接，通过一种可学习的提示技术（soft prompt），使生成语言模型能很好地响应用户的控制输入。
  3. 允许用户通过多次迭代生成句子并进行可视化操作以提高生成内容的可控性和一致性。
  4. 提供额外的控制选项，例如线条的绘制速度可以传达生成内容的精确度或变化的模糊性。

• 实施步骤/关键技术:

  1. 界面设计: 包括文本编辑器和画布用户界面，画布用于绘制故事的视觉时间序列（线表示主人公命运变化）。
  2. 技术架构:
     • 提供了一个基于GPT语言模型的生成与识别模块。
     • 使用软提示技术（soft prompt tuning）实现对命运值的学习和生成控制。
     • 采用GeDi（Generative Discriminator）扩展方法，用连续值控制生成文本。
  3. 训练和评估:
     • 构建并标注适合的故事命运数据集。
     • 使用改进的GeDi模型来引导GPT生成符合控制参数的文本内容。

研究成果

• 取得的成果:

  1. TaleBrush在Empirical和用户测试中都表现出了可靠的生成控制能力，特别是在主角命运变化的控制方面。
  2. TaleBrush优化了生成句子的连贯性，同时保留了生成句子的创造性（novelty）。
  3. 用户实验结果表明，草图交互不仅直观，还促进了用户对生成故事的迭代修正，能够帮助用户更高效地创作。
  4. TaleBrush支持多种生成场景（例如文本连续生成、故事中段补全等），且生成质量能够通过少量的再生步骤优化。

• 相较现有解决方案的优势:

  1. TaleBrush解决了常见的“控制与生成复杂度之间的权衡”问题，使生成更易控制同时不牺牲生成文本的连贯性。
  2. 将视觉交互与生成模型结合，在直观性和效率上都优于当前技术。

• 实验或评估结果:

  1. 技术评估显示，TaleBrush对线草图输入的响应可靠，控制精度可以通过参数调节实现。
  2. 在自动化评估中，使用TaleBrush生成的故事在适当平衡控制和句子连贯性上表现优越。
  3. 用户研究表明，生成文本能激发创意（如新词表达和故事情节），并帮助克服写作障碍。

• 局限性与未来方向:

  1. 当前生成的文本长度有限，长文本生成可能需要重新调整控制粒度及可视化方法。
  2. 模型可能表现出文化和数据偏差（如生成更多西方文化背景的故事）。
  3. 在用户与模型的命运理解对齐方面还有待优化。
  4. 需要支持更多类型的控制变量（如附加角色命运、情景描述和类型定义）。