从使用到监督：心理模型如何影响用户行为和人工智能写作助手的输出

文献标题

From Use to Oversight: How Mental Models Influence User Behavior and Output in AI Writing Assistants

出版信息

• 主题领域: 心理模型对用户与基于人工智能的写作助手交互的影响。
• 关键词: AI写作助手, 心理模型, 用户行为, 监督, 信任, 交互设计, 写作质量, 人机交互, 系统安全, 用户体验。

背景与问题

• 问题/挑战: 尽管心理模型已被证明会影响用户与复杂系统的交互，但其在涉及系统错误的情境下对用户与基于人工智能的写作助手的参与方式的影响仍未被充分研究。
• 重要性: 理解心理模型如何影响用户监督和写作结果对于设计支持有效且安全交互的人工智能系统至关重要，尤其是在此类系统日益普及于日常任务的情况下。
• 动机与相关研究: 人机交互和系统安全领域的先前研究表明，准确的心理模型能够提升信任、满意度和决策能力。然而，对于功能性心理模型与结构性心理模型如何影响用户行为和AI辅助写作的质量仍存在研究空白。

解决方案

• 提出的方法: 通过对比功能性心理模型与结构性心理模型对用户与基于人工智能的写作助手交互的影响，开展一项控制实验。
• 创新点:
  1. 实证分析心理模型在AI生成错误的情况下如何影响用户行为和写作质量。
  2. 开发一个控制实验框架，通过指导性启发操作心理模型并进行测试。
  3. 提供关于交互功能如何塑造用户对控制权和所有权感知的洞察。
• 实验过程与关键技术:
  • 参与者 (N = 48) 通过指导性视频被启发形成功能性或结构性心理模型。
  • 参与者使用经过修改的CoAuthor平台完成求职信写作任务，该平台被故意注入语法错误。
  • 分析行为数据、最终写作质量及自我报告的体验，以评估控制行为、写作结果和用户感知。

结果

• 具体发现:
  • 结构性心理模型组的参与者生成的求职信语法错误更多（校准修正：t(46) = −2.316, p < 0.05, d = 0.67）。
  • 结构性组参与者接受了更多错误建议（每词错误数：U = 170.0, p < 0.05, r = 0.352）。
  • 在写作质量的广泛维度（相关性、流畅性、语气/风格）上未观察到显著差异。
  • 结构性组参与者评价系统更易使用（t(46) = −2.07, p < 0.05, d = 0.60）。
• 相较基线的优势:
  • 结构性心理模型提升了系统的易用性感知，但同时导致更高的错误接受率，表明信任与监督之间存在权衡。
  • 交互功能（例如用户对建议的控制权）比心理模型深度更显著地促进了所有权和控制感。
• 实验/评估:
  • 写作任务: 参与者为虚构的职位发布撰写求职信。
  • 评估指标: 行为日志（如建议请求次数、接受率）、Grammarly正确性评分、基于定性评分标准的评估以及自我报告问卷。
  • 统计分析: 独立样本t检验、Mann–Whitney U检验以及访谈的主题分析。
• 局限性与未来工作:
  • 心理模型仅在单一时间点进行评估，可能会动态演变。
  • 参与者的差异（如写作能力、母语）可能影响结果。
  • 未来研究应探索适应性支架、渐进式信息披露以及交互技术，以支持持续的心理模型校准。

总结

本研究探讨了功能性和结构性心理模型如何影响用户与基于人工智能的写作助手的交互。结构性心理模型提升了系统的易用性感知，但也导致更高的错误建议接受率，从而使最终输出的语法错误增多。交互功能而非心理模型深度是促进用户控制和所有权的关键。这些发现强调了设计具有强大交互机制和适应性反馈的人工智能系统的必要性，以支持有效监督和安全使用。未来工作应进一步研究动态心理模型校准及其在多样化写作情境中的影响。