我，机器人？探索超个性化人工智能辅助沟通技术：一项自我民族志研究

文献标题

"I, Robot? Exploring Ultra-Personalized AI-Powered AAC; an Autoethnographic Account"

出版信息

• 主题领域: 增强与替代沟通（AAC）系统中的超个性化人工智能。
• 关键词: AAC, 超个性化, 大型语言模型, 主体性, 身份, 隐私, 自传式民族志, 辅助技术, AI介导的沟通。

背景与问题

• 问题/挑战: 通用的AI自动补全系统无法准确体现AAC用户的个人身份，导致用户需要进行大量编辑工作。尽管技术上可以实现个性化，但其对主体性、身份和隐私的影响尚未得到充分理解。
• 重要性: AAC用户依赖这些系统进行日常沟通，因此在流畅性、表达力和用户控制之间找到平衡至关重要。个性化的失误可能会破坏用户身份和隐私，并带来现实后果。
• 动机与相关研究: 现有AAC系统已探索预测文本和上下文感知建议，但通常缺乏个性化。研究强调需要设计能够保留用户创作和身份，同时解决隐私和上下文适配问题的系统。本研究基于这些洞察，通过分析基于单一用户沟通历史训练的超个性化AI系统展开研究。

解决方案

• 提出的方法: 开发并评估一种基于语言模型的超个性化AAC系统，该模型通过微调首席作者的沟通数据进行训练，并通过自传式民族志研究进行探索。
• 创新点:
  1. 提供超个性化AAC如何影响用户主体性、身份和隐私的实证见解。
  2. 识别个性化中的权衡，包括自我审查和隐私风险。
  3. 利用真实体验记录AI介导沟通的动态变化。
• 流程与关键技术:
  1. 第一阶段: 使用定制AAC应用程序进行七个月的数据收集，记录所有面对面沟通。
  2. 第二阶段: 数据整理并对GPT-4.1-mini模型进行微调，同时过滤敏感内容。
  3. 第三阶段: 使用个性化AAC系统三个月，每日进行结构化日记反思和使用分析。

结果

• 具体发现:
  • 个性化模型提高了沟通速度（平均每分钟字数：41.7，对比基线31.4），并与用户的双语和文化身份保持一致。
  • 建议被选择性接受，平均每次接受建议的词数为7.5。
  • 当模型重新出现敏感或上下文不适当的细节时，隐私问题显现。
• 相较基线的优势:
  • 与通用模型相比，表达力和流畅性显著提升，更好地匹配用户的语气和文化语言模式。
  • 部分建议接受保留了用户的主体性和创作性。
• 实验/评估:
  • 使用分析追踪词语接受率和建议匹配度等指标。
  • 日记反思揭示了关于主体性、身份和隐私的主题，突出了超个性化的优势和风险。
• 局限性与未来工作:
  • 单用户研究限制了普适性；结果主要适用于使用文本输入设备的高文化素养AAC用户。
  • 模型性能未优化至最先进的准确性；未来研究应探索多用户研究、延迟的控制评估以及自适应系统。

总结

本研究通过单用户自传式民族志探讨了超个性化AI在AAC中的社会技术影响。通过对用户沟通数据微调语言模型，系统提升了流畅性和表达力，同时反映了用户的双语和文化身份。然而，自我审查、上下文失误和隐私风险等挑战也随之出现。研究结果强调了AAC系统需要在主体性、身份和隐私之间找到平衡，并采用模块化、自适应设计以随用户需求演变。本研究为超个性化AAC的潜力和风险提供了早期洞察，并为未来实施提供了设计方向。