“我遵循感觉对的，而不是被告知的”：通过AI介导对话实现自主、辅导与偏见识别

文献标题

“I followed what felt right, not what I was told”: Autonomy, Coaching, and Recognizing Bias Through AI-Mediated Dialogue

出版信息

• 主题领域: 基于人工智能的对话与社会互动中的偏见识别。
• 关键词: 基于人工智能的对话、能力主义、微侵犯、偏见识别、指导、对话式人工智能、包容性、框架效应、行为干预、可访问性。

背景与问题

• 问题/挑战: 能力主义微侵犯现象普遍存在，但帮助人们识别这些行为的干预措施却非常有限。现有方法通常是被动的、耗费大量人力，或者未能解决微侵犯通常发生的对话动态问题。
• 重要性: 解决能力主义微侵犯问题对于促进包容性和减少对残疾人群体的污名化至关重要。残疾人群体占全球人口的16%。有效的干预措施可以减轻心理伤害并减少结构性排斥。
• 动机与相关研究: 以往研究记录了微侵犯的普遍性及其影响，但主要集中于种族、性别和性取向领域。关于能力主义的研究较少且主要是定性研究。对话式人工智能系统在越来越多的敏感互动中发挥作用，但这些系统可能会编码偏见并影响用户判断。本文探讨了基于人工智能的对话是否能够改变对能力主义的识别，以及指导方向如何影响这些变化。

解决方案

• 提出的方法: 一个基于人工智能的对话平台，通过模拟对话嵌入对能力主义互动的识别，并使用指导提示来模拟偏见或包容性框架。
• 创新点:
  1. 引入一个基于人工智能的对话平台，用于原位研究能力主义。
  2. 开发并验证了一个涵盖四个微侵犯领域的残疾相关互动情景语料库。
  3. 提供实证证据表明基于对话的干预在偏见识别方面优于被动阅读模块。
  4. 为社会意识型人工智能系统设计提供启示，包括防止偏见引导的保护措施和包容性框架的指导原则。
• 程序与关键技术:
  • 参与者与一个代表残疾人的人工智能角色进行文本对话。
  • 四种条件：偏见引导（偏见提示）、中性引导（包容性提示）、自我引导（无提示）和阅读（非对话控制）。
  • 前测和后测情景调查测量对能力主义和中性互动的识别。
  • 定性反思记录参与者对干预的推理和感知。

结果

• 具体发现:
  • 基于对话的条件在识别能力主义和中性互动方面优于阅读条件。
  • 偏见引导指导增强了对伤害的敏感性，但对中性场景产生了负面光环效应。
  • 中性引导指导促进了平衡判断和对包容性的肯定。
  • 自我引导对话支持真实、情境敏感的参与。
• 相较基线的优势:
  • 基于对话的干预在识别和区分能力主义与中性互动方面优于阅读模块。
  • 偏见引导指导产生了最强的区分效果，但以整体负面性为代价。
• 实验/评估:
  • 160名参与者完成了前测、干预和后测调查。
  • 情景语料库被验证为区分能力主义和中性互动的可靠工具。
  • 方差分析和主题分析揭示了指导方向对识别和情感影响的显著效果。
• 局限性与未来工作:
  • 缺乏多模态丰富性（例如非语言线索）。
  • 短期接触限制了对持久性和行为转移的评估。
  • 样本人口统计特征偏向年轻、英语使用者。
  • 未来研究可探索沉浸式环境、长期效果以及对其他形式偏见的广泛应用。

总结

本研究表明，基于人工智能的对话可以改变对能力主义微侵犯的识别，其中指导方向起到了关键作用。偏见引导提示通过主动抵制增强了对能力主义与中性互动的区分，而中性引导提示则促进了平衡和包容性判断。基于对话的干预优于被动阅读模块，强调了主动参与的重要性。研究结果表明，基于人工智能的对话可以作为残疾人主导教育的可扩展补充，为反思和学习提供实践空间。未来工作应探索多模态互动、长期效果以及对其他社会偏见形式的应用。