AI 个性化悖论：用于个性化 AI 辅助写作的阅读高亮增加参与度但削弱自主性与所有权

文献标题

AI Personalization Paradox: Reading Highlights for Personalized AI-Assisted Writing Increases Engagement but Undermines Autonomy and Ownership

出版信息

• 主题领域: AI辅助写作中的个性化及其对用户行为和感知的影响。
• 关键词: AI辅助写作、个性化、阅读高亮、自主性、所有权、参与度、论证性写作、用户行为、认知过程、AI依赖。

背景与问题

• 问题/挑战: 当前的个性化AI辅助写作系统主要关注写作阶段，忽略了阅读与写作之间的紧密联系。尽管个性化可以提高参与度，但也可能导致对AI的过度依赖，削弱用户的自主性和所有权。
• 意义: 理解阅读行为（如高亮）如何为AI辅助写作中的个性化提供信息，对于设计既能提供支持又能维护用户自主性和所有权的系统至关重要。
• 动机与相关工作: 之前的研究探讨了AI辅助写作中的个性化，但大多忽略了阅读阶段，尽管阅读与写作之间存在认知和行为上的联系。现有系统如GhostWriter主要关注写作交互，尚未充分研究阅读行为（如高亮）如何影响个性化写作。

解决方案

• 提出的方法: 将阅读高亮整合到个性化AI辅助写作系统中，根据用户在阅读过程中选择的内容定制AI建议。
• 创新点:
  1. 实证研究阅读高亮如何影响AI辅助写作中的行为和感知。
  2. 识别个性化导致的悖论：虽然提高了参与度，但削弱了自主性、所有权和自我认可。
  3. 探讨个性化如何改变阅读与写作之间的关系。
• 研究流程与关键技术:
  • 进行了一项包含46名参与者的组间实验，任务是撰写论证性文章。
  • 两种条件：个性化（基于用户高亮内容的AI建议）和基线（基于完整阅读材料的AI建议）。
  • 使用系统日志和Likert量表调查测量阅读和写作行为、AI依赖以及主观感知。
  • 分析两种条件下阅读和写作指标之间的相关性。

结果

• 具体发现:
  • 个性化组参与者显著增加了高亮数量（M = 22.96 vs. 基线组M = 7.23），高亮密度更高（M = 0.452 vs. M = 0.051），阅读时长更长（M = 569.74秒 vs. M = 392.72秒）。
  • 个性化组表现出更高的AI依赖（M = 0.924 vs. M = 0.710）和接受率（M = 0.489 vs. M = 0.307）。
  • 基线组参与者编辑次数更多（M = 1847.14 vs. M = 587.96），文章篇幅更长（M = 514.64字 vs. M = 415.21字）。
  • 自主性、所有权和自我认可在基线组显著更高（自主性：M = 5.38 vs. M = 4.39；所有权：M = 4.80 vs. M = 3.72；自我认可：M = 5.42 vs. M = 4.64）。
• 相较基线的优势:
  • 基线条件支持更深入的写作参与以及更强的作者感、自主性和所有权。
  • 个性化提高了阅读参与度，但将高亮行为转变为一种为AI输入服务的工具化行为。
• 实验/评估:
  • 参与者在控制条件下根据提供的阅读材料撰写论证性文章。
  • 指标包括阅读行为（如高亮密度）、写作行为（如编辑次数、AI依赖）以及主观感知（如自主性、所有权）。
  • 统计分析揭示了条件之间的显著差异以及阅读和写作指标之间的相关性。
• 局限性与未来工作:
  • 研究集中于论证性写作，其他文体可能会产生不同结果。
  • 仅限于高亮作为个性化线索，尚未探索其他注释方式（如评论）。
  • 参与者对个性化效果的显性意识可能影响了行为，未来研究应探索隐性或部分透明的个性化方式。

总结

本研究探讨了基于阅读高亮的个性化AI辅助写作，发现个性化虽然提高了阅读参与度，但将高亮从理解工具转变为AI输入的工具化行为。这导致了更高的AI依赖，同时削弱了写作过程中的自主性、所有权和自我认可。相比之下，基线条件促进了更深入的写作参与和更强的作者感。研究结果强调了个性化可能削弱内在动机的风险，并提出了设计策略以维护用户自主性和所有权，例如将认知高亮与个性化线索分离，以及嵌入反思性阅读实践。