日常不确定性：盲人如何使用生成式人工智能工具获取信息

研究背景与问题

发现的问题或挑战

• 随着生成式人工智能（GenAI）工具被大量引入无障碍技术，盲人信息访问面临新的机遇和挑战。
• GenAI工具产生的输出可能包含错误、幻觉（hallucinations）和偏见，此外工具的能力也在不断变化，使得盲人在使用GenAI时面临不确定性。
• 盲人日常面临普遍的信息无障碍问题，如网页不易用、文档难以访问、以及社会对残疾人的误解。
• 研究较少探索盲人在多样化的任务和情境下如何利用这些GenAI工具。

为什么重要

• GenAI工具的潜力在于通过大规模语言模型（LLMs）和多模态模型（LMMs）提高非视觉信息的访问能力。然而，这些工具的缺陷对盲人的独立性造成影响，并可能扩大技术承担的风险。
• 由于盲人依赖于信息获取完成日常任务、学习和社交互动，研究他们如何处理挑战性的生成式人工智能输出从而提出改进尤为重要。

研究动机与相关工作

• 虽然已有研究集中于GenAI工具的技术局限性（如数据质量问题和模型偏见），但鲜有工作研究盲人在应对这些工具带来的不确定性时如何调整策略。
• 人工智能研究中的不确定性问题通常从计算角度进行探讨（如量化模型预测的不确定性），但较少关注其在人类上下文中的应用及理解。
• 本研究的目标是提供关于盲人如何利用工具（包括GenAI、人类协助以及其他社会物质条件）的综合理解。

解决方案

方法或解决方案

• 研究提出了*“日常不确定性（everyday uncertainty）”*的概念，这是盲人在利用GenAI工具获取信息时表现出的理解和适应多个不确定因素的心态，包括工具的不完善性、人类支持的多样性，以及信息本身的主观性。
• 通过定性研究，阐明了盲人在面对信息错误、不完整或主观属性时，如何调整策略来逐步完善理解。

该解决方案的创新之处

• 从系统视角出发，将GenAI工具视为盲人多模态操作流程中的一部分，而非孤立的技术产品。
• 将不确定性从量化问题转变为一种生活实践，并重新定位为盲人自信、灵活适应信息环境的一部分。
• 扩展HCI（人机交互）领域关于不确定性的理解，将不确定性视为分析和设计的积极驱动力，而非问题。

实施步骤和关键技术

1. 数据收集与初步研究：研究团队观察分析研究者与ChatGPT、Gemini和Be My AI的自然交互过程，提炼问题背景。
2. 参与者访谈：对20位盲人屏幕阅读器用户进行了结构化访谈，了解他们如何使用GenAI工具以及调整策略。
3. 数据分析：采用*反思性主题分析（reflexive thematic analysis）*方法，提炼出盲人在信息访问中表现出的主题性实践与不确定性应对模式。

研究成果

具体成果

• 提出日常不确定性概念：定义为盲人不断质疑和探索信息中错误、不完整性和主观性的过程。
• 主题分析总结了以下四种应对策略：
  1. 从高出错率的输出中提取有意义线索：如利用文档结构提取或从常见错误中提取线索用于验证。
  2. 逐步更新信息和理解：不把信息视为“最终正确”，而是动态调整和补充理解。
  3. 承认信息的主观性并探索替代观点：同时依赖AI、网络资源和人类帮助形成多样化认知。
  4. 适应信息获取的政治环境：在社会规范和工具限制下调整请求策略。

与现有解决方案的比较优势

• 引入“系统性和协作视角”，不仅限于研究工具本身，而是研究信息获取路径中的所有相关因素。
• 更深刻地理解盲人如何在生成式人工智能错误中运用批判性、创造性和适应性，这超越了传统围绕“正确/错误”的分析思路。
• 提供现实的设计方案和用户行为洞见，有助于改进AI模型与用户体验设计。

实验或评估结果

• 研究证实，盲人已经习惯于在信息获取中容忍并处理某些错误和不确定性。例如，许多参与者利用生成式AI生成大纲来节约阅读时间，或通过提取关键词提高搜索效率。
• 与访谈结合的日常生活实例（例如使用AI描述个人照片或家电部件），进一步展示了“日常不确定性”的适应性和动态性。

局限性与未来方向

• 局限性：
  • 研究样本集中于美国，缺乏全球范围视角。
  • 大量依赖自述和访谈，未来可能需要更加客观的行为研究数据进行补充。
• 未来方向：
  1. 探索设计帮助用户在多个AI工具和不同人类资源间无缝切换的信息生态。
  2. 进一步研究如何在AI工具中展示模型在特定使用情境下的透明性。
  3. 从政策和制度层面，探讨技术标准化和可控性作为解决不确定性根源的方法。

总结

本研究通过分析盲人如何利用生成式AI工具应对信息获取中的日常不确定性，提出了将不确定性视为有机组成部分的新思路。从设计与策略视角，研究为未来开发更灵活、更具适应性的无障碍AI工具提供了切实可行的路径，同时也为人机交互和无障碍领域的理论探索注入新动力。