“电脑说不”：AI治理下残疾人福利体验与设想未来

文献标题

"'Computer Says No': Disabled Welfare Experiences and Envisioned Futures Under AI Governance"

出版信息

• 主题领域: 人工智能治理、福利系统与残障人士无障碍性之间的交叉研究。
• 关键词: AI治理、福利自动化、残障权利、失语症、参与式设计、无障碍性、数字排斥、敌意设计、包容性AI、公共服务。

背景与问题

• 问题/挑战: 福利系统的数字化与自动化可能加剧残障人士，尤其是像失语症患者这样的沟通障碍群体所面临的不平等问题。目前的系统通常缺乏无障碍性，带有非人性化特征，并未充分考虑残障群体的实际生活经验。
• 重要性: 福利服务对于残障人士的安全、健康和福祉至关重要。确保这些系统的无障碍性和公平性是防止排斥和伤害的关键。
• 动机与相关研究: 先前的研究已指出残障人士在数字化和自动化系统中面临的障碍，但大多忽视了失语症患者的具体经历。现有研究也未能充分让残障群体参与到包容性AI驱动福利系统的设计中。

解决方案

• 提出的方法: 开展一个由42位共同设计者参与的四阶段参与式设计研究，其中包括失语症患者、照护者以及语言治疗师（SLTs），以探讨他们在数字化福利系统中的体验，并共同构想包容性的AI自动化未来。
• 创新点:
  1. 确定当前福利系统中的五大核心挑战：表现残障的成本、不平等的地理分布、数字官僚主义的复杂性、无障碍性的悖论以及敌意设计。
  2. 开发具体工具（如卡片组、旅程映射材料）以促进与失语症患者的共同设计。
  3. 创建推测性设计虚构视频，以探索和批判未来的AI自动化福利系统。
• 流程与关键技术:
  • 阶段1：组建顾问委员会并进行非结构化访谈，以将研究建立在实际生活经验之上。
  • 阶段2：通过使用具体工具的工作坊绘制福利获取路径和情感体验。
  • 阶段3：通过旅程映射追踪获取关键服务的障碍与促进因素。
  • 阶段4：开展推测性设计虚构工作坊，构想并批判AI自动化福利的未来。
  • 使用反思性主题分析识别关键主题和见解。

结果

• 具体发现:
  • 确定了五大挑战：表现残障、区域与数字不平等、不可访问的数字官僚主义、无障碍性悖论以及敌意系统设计。
  • 共同设计者构想了具有耐心、多模态、共情、透明性并保留人工监督的AI系统。
• 相较基线的优势:
  • 参与式方法直接融入了失语症患者的生活经验，提供了关于系统性障碍和包容性设计可能性的独特见解。
  • 提议的AI系统解决了具体的无障碍需求，如多模态沟通和主动支持。
• 实验/评估:
  • 通过42名参与者（包括29名失语症患者）参加的八次工作坊，使用具体工具和推测性视频引导洞见。
  • 分析了2141个讨论实例以生成主题和建议。
• 局限性与未来工作:
  • 研究结果具有英国特定背景，可能无法全球通用。
  • 推测性设计提示并未基于已部署的系统，限制了其现实适用性。
  • 未来工作应在真实环境中测试提议的AI系统，并将参与式方法扩展到其他残障背景。

总结

本研究探讨了失语症患者在导航数字化福利系统中的经历，并探索了他们对包容性AI自动化未来的愿景。通过参与式设计过程，研究识别了系统性障碍，并提出了具有耐心、多模态、共情和透明性且保留人工监督的AI系统。研究结果强调了需要构建无障碍、自下而上的数字治理以及富有同情心的AI系统，以赋能而非排斥残障人士。未来研究应聚焦于真实环境测试和更广泛的社区参与，以确保福利自动化的包容性。