单元、生成器与透镜:面向大型语言模型面向对象交互的设计框架
大语言模型(LLM)的人机协作UI/UX 设计师AI/ML 研究员与工程师
文献标题
Cells, Generators, and Lenses: Design Framework for Object-Oriented Interaction with Large Language Models
文献信息
- 主题领域: 人机交互与大语言模型(LLMs)的设计与应用
- 关键词: 大语言模型, 生成模型, 写作辅助工具, 重现化, 人机交互设计
研究背景与问题
-
问题或挑战:
- LLMs对写作任务的支持已显著减少用户的写作负担,但现有的写作界面限制了用户针对生成配置(如输入和模型参数)的实验与迭代能力。
- 用户的生成配置通常被覆盖,难以追踪、比较以及组合多种配置,这阻碍了用户的灵活探索与实验。
- 黑箱化和非确定性的模型特质使用户缺乏“纠正”模型结果的有效性,必须耗费额外精力进行实验。
-
研究重要性:
- 在创意任务中,迭代与实验对于探索设计空间至关重要。通过改善写作界面从而支持多配置的并行原型设计,可以显著提升用户的工作效率及创造力。
-
研究动机与相关工作:
- 现有研究(如GANSliders、PromptMaker等工具)虽提升了生成模型的某些组件的配置能力,但缺乏对跨组件的定制支持。
- LLM研究关注了输入配置(如提示工程)与生成输出的部分优化,但仍未解决整体生成过程的调试与综合配置问题。
- 人-AI写作工具展示了AI对写作的补充功能,但未全面考虑支持用户的迭代与实验需求。
解决方案
-
提出的方法或解决方案:
- 作者提出“细胞(Cells)、生成器(Generators)、透镜(Lenses)”框架,将生成配置的主要组件(输入、模型、输出)具象化为交互对象。
- 设计框架中的交互对象是持久化、可复用、可组合的。通过这些对象,用户可创建多种配置的变体,同时进行并行原型设计。
-
创新之处:
- 提出了一种面向对象的交互设计框架,使得用户能灵活组合输入、模型及输出组件,从而支持生成配置的多样化与实验性。
- 在设计中结合了“对象重现化”的概念,将任务元素(如文本片段、模型参数)转化为直观易用的交互对象。
-
实施步骤与关键技术:
- 细胞(Cells):
- 输入单元的物化表示,如句子或短语。
- 用户可创建、修改、复制并组合多个细胞以构建生成输入。
- 生成器(Generators):
- 模型设置的物化表示,包括模型类型与参数。
- 用户可以独立修改每个生成器的配置,并链接其与细胞以生成输出,同时跟踪其配置历史。
- 透镜(Lenses):
- 生成输出的物化表示,用于输出的组织与可视化(如列表、散点图)。
- 用户可灵活组装透镜以同时查看相同输出的多种表现形式。
- 细胞(Cells):
研究成果
-
具体成果:
- 应用框架重新设计了三个界面:用于广告撰写、邮件编撰和故事创作。每个界面展示了框架在不同任务中的适用性。
- 实验结果显示,基于框架设计的界面显著鼓励用户生成更多输出、使用更多输入进行实验,并在最终生成中更高频率地接受模型的建议。
- 设计工作坊发现,该框架不仅为设计师提供了具体的交互设计组件,同时启发他们进一步模块化生成过程。
-
与现有解决方案的优势:
- 提供了对用户生成过程的全面控制与个性化的支持,能够显著改进用户的迭代与实验体验。
- 弥补了现有生成工具仅支持单组件定制的不足,整合了输入、模型设置与输出的综合交互支持。
-
实验与评估结果:
- 用户实验比较了基于框架的界面与传统配置界面的效果,发现用户在前者中的生成次数更多(M=9.78 vs M=6.33, p=0.006),使用的唯一输入数更高(M=5.89 vs M=3.06, p<0.000)。
- 使用框架的参与者在生成输出中的采用率显著更高(BLEU得分分析:M=0.884 vs M=0.768, p=0.045)。
-
局限性与未来方向:
- 局限性包括模型参数难以预测其影响,而生成配置的修改缺乏智能建议。
- 作者建议未来研究重点改进生成器的参数解释性,开发能够平衡输出广度与检阅效率的新型透镜,以及优化细胞的自动生成与推荐功能。
开放资源
- 作者发布了一个开源ReactJS库,用于快速集成“细胞、生成器、透镜”组件,方便开发者进行界面设计(网址: https://github.com/kixlab/llm-ui-objects)。
研究问题 / 现实痛点
这篇论文在当前问题库中对应的问题线索。
help
研究问题
3- 如何优化现有生成模型的写作界面以更有效地支持用户的实验与迭代?分类: 写作协作、摘要与文本建议同类问题arrow_forward
- 是否可以通过物化生成配置的主要组件(如输入、模型参数、输出)来改善用户多配置原型的探索体验?分类: 写作协作、摘要与文本建议同类问题arrow_forward
- 框架化的交互组件(比如单元、生成器和镜头)对用户生成内容和采纳模型建议的行为有何影响?分类: 写作协作、摘要与文本建议同类问题arrow_forward
lightbulb
现实痛点
1- 用户难以有效配置生成模型,限制了生成内容的探索和试验自由。分类: 写作协作、摘要与文本建议同类问题arrow_forward
- 75%
从HCI研究中映射机器学习进展以揭示设计创新的起点
CHI '18· 大语言模型(LLM)的人机协作
- 75%
素描NLP:一个探索设计语言智能正确事物的案例研究
CHI '19· 大语言模型(LLM)的人机协作 +1
- 75%
在共享工作空间环境中对人机协作情境自主性的评估
CHI '24· 大语言模型(LLM)的人机协作 +1
- 75%
IntentTuner:将人类意图整合到文本到图像生成模型微调中的交互框架
CHI '24· 生成式AI(文本、图像、音乐、视频) +1
- 75%
弥合设想的鸿沟:基于提示与大语言模型交互的认知挑战
CHI '24· 大语言模型(LLM)的人机协作 +1
- 75%
机械降神与大型语言模型中的人设:探究AI生成的人设描述的构成
CHI '24· 大语言模型(LLM)的人机协作 +1
- 75%
基于LLM的推荐系统用户体验:以音乐推荐为例
CHI '25· 大语言模型(LLM)的人机协作 +1
- 75%
AI仪器:将提示作为工具来抽象和反映图形界面命令作为通用工具
CHI '25· 生成式AI(文本、图像、音乐、视频) +1
- 75%
IdeationWeb: 跟踪人类-AI共同创作中设计想法的演变
CHI '25· 大语言模型(LLM)的人机协作 +1
- 75%
人类说话者帮助机器倾听者应对对话中的视觉不对称性
CUI '23· 语音用户界面(VUI)设计 +1
基于研究子主题与职业分类的 Jaccard 相似度(≥60%)
快捷操作
广告推荐
学习 AI 编程到 CodeNow
open_in_new打开DOI链接
DOI: https://doi.org/10.1145/3586183.3606833
一眼看懂
fact_check论文快照
dataset
来源
UIST
calendar_month
年份
2023
emoji_events
奖项
未标记奖项
group
作者
4 位作者
sell
研究子方向
大语言模型(LLM)的人机协作
work
职业/产业
UI/UX 设计师、AI/ML 研究员与工程师
article
内容状态
已索引正文
hub
相关论文
10 篇相关论文