"我不信任它,但我使用它"：残疾人在生成式AI使用中信任、隐私和身份的权衡

文献标题

“I Don't Trust it, but I Use it”: Navigating Trust, Privacy, and Identity in Disabled People’s Use of Generative AI

出版信息

• 主题领域: 残障人士使用生成式人工智能（Generative AI）中的可访问性与交叉身份研究。
• 关键词: 生成式人工智能，可访问性，残障，信任，隐私，交叉性，身份，伦理人工智能，可访问性成本。

背景与问题

• 问题/挑战: 现有关于生成式人工智能（GenAI）与可访问性的研究通常采用单一维度的方法，忽视了信任、隐私以及交叉身份如何影响残障人士的体验。对于残障人士在日常生活中如何使用GenAI的理解仍然有限，尤其是在不同残障群体之间的差异上。
• 重要性: GenAI为残障人士提供了显著的可访问性机会，但也带来了偏见、隐私问题和伦理困境等风险。理解这些动态对设计包容且值得信赖的GenAI工具至关重要。
• 动机与相关工作: 先前的研究探讨了GenAI的可访问性潜力及其在单一身份维度（如种族、性别、残障）上的偏见。然而，这些研究由于样本量小、残障代表性不足以及对交叉身份关注不够，往往缺乏普适性。本研究旨在填补这些空白。

解决方案

• 提出的方法: 本研究通过七个跨残障焦点小组（N=20）调查残障人士在日常生活中如何使用GenAI，重点关注可访问性、信任以及基于身份的挑战和益处。
• 创新点:
  1. 探讨GenAI在不同残障和交叉身份中的使用情况。
  2. 研究GenAI使用中的“可访问性成本”概念。
  3. 强调GenAI交互中的基于身份的益处与伤害。
  4. 提供设计值得信赖且包容的GenAI工具的设计启示。
• 程序与关键技术:
  • 进行了七个半结构化焦点小组讨论，参与者包括具有多样残障、年龄和交叉身份的20人。
  • 使用反思性主题分析和描述性统计方法分析焦点小组数据。
  • 探讨了信任、隐私、身份保留和可访问性成本等主题。

结果

• 具体发现:
  • GenAI支持自主性、效率和沟通，但也引入了可访问性成本（如经济成本、认知负担、隐私风险）。
  • 对GenAI的信任是有条件的，通常由必要性而非对可靠性或伦理的信心所驱动。
  • GenAI工具既能验证也可能误解交叉身份，存在种族和语言偏见以及规范化默认值等问题。
• 相较基线的优势: 提供了关于残障人士如何使用GenAI的细致理解，通过纳入交叉视角和多样残障体验，弥补了先前单一维度研究的不足。
• 实验/评估:
  • 焦点小组包括视力障碍、神经多样性、慢性病和听力障碍等残障人士。
  • 参与者使用了ChatGPT、BeMyAI和DALL-E等工具，完成从可访问性辅助到创意和专业支持的任务。
  • 数据分析揭示了信任、身份协商和可访问性成本等主题。
• 局限性与未来工作:
  • 研究仅限于美国视角，尚未探索全球经验。
  • 某些残障、种族和性别群体代表性不足。
  • 由于非用户数量较少，对GenAI的抵制研究不足。
  • 未来工作应探讨全球背景、更多身份维度以及GenAI抵制的原因。

总结

本研究调查了残障人士在日常生活中如何使用生成式人工智能（GenAI），重点关注可访问性、信任和基于身份的挑战。通过七个焦点小组（N=20），作者发现GenAI支持自主性和效率，但也引入了可访问性成本和伦理困境。对GenAI的信任通常是有条件的，由必要性而非对可靠性或伦理的信心所驱动。研究强调了基于身份的益处与伤害，包括交叉身份的验证和通过偏见导致的误解。这些发现为设计包容且值得信赖的GenAI工具提供了可操作的见解，并呼吁进一步研究人工智能中的可访问性和交叉性问题。