"我们这是在为斯波克写建议专栏吗？" 理解人工智能对自闭症用户建议中的刻板印象

文献标题

'Are we writing an advice column for Spock here?' Understanding Stereotypes in AI Advice for Autistic Users

出版信息

• 主题领域: 针对自闭症用户的AI生成建议中的刻板印象。
• 关键词: 自闭症, 刻板印象, LLMs, 个性化, 偏见, 建议, 信息披露, HCI, 神经多样性, AI伦理。

背景与问题

• 问题 / 挑战: 对自闭症信息披露如何影响LLM提供的建议，以及这些建议是否个性化或强化了有害刻板印象的理解有限。
• 意义: 自闭症个体经常使用LLM寻求建议，期望获得非评判性且量身定制的回应。然而，AI系统中的偏见可能会延续刻板印象，从而影响AI支持的质量和包容性。
• 动机与相关研究: 先前研究表明，自闭症的刻板印象被编码在LLM中，并在生成的输出中显现。尽管自闭症用户重视AI建议的客观性，但对误解和污名化的担忧仍然存在。本研究旨在系统性地探讨自闭症信息披露如何塑造LLM建议及其对用户的影响。

解决方案

• 提出的方法: 采用混合方法研究，结合大规模LLM审计实验和对自闭症参与者的定性访谈，分析自闭症信息披露如何影响AI生成的建议。
• 创新点:
  1. 首次对LLM建议中的自闭症刻板印象进行大规模审计，分析六种模型中的345,000个决策。
  2. 从自闭症用户的角度获取定性见解，探讨LLM建议如何被感知为支持性或有害性，为个性化设计原则提供依据。
  3. 开发一个六步流程，将12种自闭症刻板印象操作化为决策场景，系统量化与刻板印象相关的LLM响应差异。
• 过程与关键技术:
  1. 从现有文献中识别12种自闭症刻板印象。
  2. 构建并验证反映这些刻板印象的人际决策场景。
  3. 在自闭症信息披露（AT）和非披露（NA）条件下，生成六种LLM（Gemini-2.0-flash, GPT-4o-mini, Claude-3.5-Haiku, Llama-4-Scout, Qwen-3-235B, DeepSeek-V3）的345,000个响应。
  4. 测量模型建议中的刻板印象（ST–AST）和披露（AT–NA）差异。
  5. 对11名自闭症参与者进行访谈，将定量发现与实际经验相结合。

结果

• 具体发现:
  • 自闭症信息披露显著改变了72对刻板印象–模型组合中的36对建议，通常倾向于保守和风险规避的推荐。
  • 四种刻板印象（内向、强迫、无浪漫倾向、危险）表现出最强的披露效应，模型过度推荐避免社交活动、冲突、新体验和浪漫关系。
  • 在社交邀请场景中观察到最大的AT–NA差距，披露使模型推荐拒绝的可能性增加了2.4倍。
• 相较基线的优势:
  • 本研究超越了以往工作，直接将披露效应与刻板印象驱动的差异联系起来，并结合了自闭症用户的视角。
• 实验 / 评估:
  • 定量分析: 使用卡方检验和Pearson相关系数(r)测量刻板印象和披露效应的显著性及一致性。
  • 定性分析: 对11名自闭症成年人（年龄22–65岁）进行访谈，探讨他们对LLM建议、刻板印象和个性化偏好的看法。
• 局限性与未来工作:
  • 合成场景和二元决策提示可能无法完全反映真实世界的情境。
  • 对细化的自闭症信息披露（例如具体特质而非身份标签）的探索有限。
  • 未来工作应包括自闭症用户的真实提示，并分析LLM在披露后如何调整响应的风格和语气。

总结

本研究探讨了自闭症信息披露如何影响LLM生成的建议，发现披露通常导致与自闭症个体刻板印象（如内向、强迫、无浪漫倾向或危险）一致的风险规避推荐。尽管部分用户认为这具有保护性，但其他人批评其为幼稚化。研究结合了大规模定量审计与自闭症参与者的定性见解，突出了在AI系统中平衡个性化与偏见的复杂性。研究结果强调了设计功能的必要性，这些功能应赋予用户更大的控制权和透明度，使其了解身份披露如何影响AI响应，从而为更具包容性和适应性的AI支持铺平道路。