交互式推理：可视化和控制大语言模型中的思维链推理

大语言模型（LLM）的输出质量可以通过“推理”来改善：生成思维链（CoT）内容片段，以便在生成面向用户的输出之前进一步给模型条件化。虽然这些链包含有价值的信息，但它们冗长且缺乏明确的组织，使其审查起来很繁琐。此外，它们缺乏用户反馈的机会，例如删除不需要的考虑因素、添加所需的因素或澄清不清楚的假设。我们引入交互式推理，这是一种交互设计，将思维链输出可视化为层次结构的主题，并启用用户审查和修改。我们在Hippo中实现了交互式推理，这是一款面向不确定权衡的AI辅助决策原型。在涉及16名参与者的用户研究中，我们发现Hippo中的交互式推理使用户能够快速识别并中断错误生成，高效地将模型引导向定制响应，并更好地理解模型推理和模型输出。我们的工作贡献了一种将用户监督纳入LLM推理过程的新范式。