“别看，但我知道你看了”：共享LLM账户中的规范与观察者效应

文献标题

“Don’t Look, But I Know You Do”: Norms and Observer Effects in Shared LLM Accounts

出版信息

• 主题领域: 共享生成式人工智能账户的社会动态及设计启示。
• 关键词: LLM账户共享、观察者效应、隐性规范、认知痕迹、隐私、挪用、社会半透明性、协商工具、多用户环境。

背景与问题

• 问题/挑战: 像LLM这样的生成式人工智能平台通常设计为个人使用，但越来越多地被多个用户共享，导致隐私、协调以及因可见性引发的行为变化方面的紧张局势。
• 重要性: 随着LLM在协作、教育和创意场景中的普及，理解共享使用变得至关重要，而单用户设计无法解决多用户现实中的问题。
• 动机与相关研究: 之前关于流媒体和企业系统账户共享的研究强调了便利性、信任、协作和节约成本等动机，但未解决LLM环境中推理痕迹带来的独特挑战。本研究基于挪用理论、隐性规范和观察者效应，探讨这些空白。

解决方案

• 提出的方法: 采用混合方法研究，包括对245名用户的问卷调查和36名参与者的访谈，探讨共享LLM账户中的规范、观察者效应及设计启示。
• 创新点:
  1. 确定LLM账户共享的2×2分类法（所有者参与×成本分担）及其对协调和动机的影响。
  2. 分析推理痕迹如何加剧观察者效应的紧张，扩展了对意识和社会半透明性的概念至语言痕迹。
  3. 提出设计策略，包括协商工具、社会半透明性和分级可见性控制，以适应单用户LLM界面向多用户使用的转变。
• 流程与关键技术:
  • 通过问卷调查绘制共享模式和隐性规范。
  • 进行半结构化访谈，探索实际体验和观察者效应。
  • 对定性数据进行主题编码，识别共享类型、规范动态和行为变化。

结果

• 具体发现:
  • 四种账户共享类型：所有者参与-随意型、无所有者-随意型、所有者参与-分担型、无所有者-分担型，由所有者参与和成本分担决定。
  • 隐私规范（63%）、边界设定规范（24%）和访问规范（13%）出现，但较为脆弱且解释不一致。
  • 观察者效应表现为窥探（有意和无意）和自我审查，用户在观察者和被观察者角色之间交替。
• 相较基线的优势: 与之前关于流媒体或企业系统的研究不同，本研究强调推理痕迹作为LLM共享中的独特协调表面，突出了认知共享和智力脆弱性。
• 实验/评估: 采用混合方法，包括问卷调查（n=245）和访谈（n=36），通过主题编码和编码员间一致性分析（κ = 0.78–0.79）。
• 局限性与未来工作:
  • 依赖自我报告可能低估敏感行为。
  • 研究主要集中于ChatGPT，因其高使用率。
  • 横截面设计限制了对时间变化的洞察；未来工作应包括纵向研究、跨文化比较和行为日志分析。

总结

本研究探讨了共享LLM账户的社会动态，基于所有者参与和成本分担识别了四种共享类型。隐私、边界和访问的隐性规范较为脆弱，常被违反，并受推理痕迹影响加剧观察者效应。用户在窥探和自我审查之间交替，产生紧张局势，突显设计需求的不足。论文提出了协商工具、社会半透明性和分级可见性控制等设计策略，以支持多用户环境。这些发现扩展了CSCW概念，并为适应LLM平台的集体使用提供了实际启示，同时平衡隐私与协作。