非正式具身审计：通过社区工作坊探索面部情感人工智能（FEAI）

文献标题

Informal Embodied Auditing: Exploring Facial Emotion AI (FEAI) through Community Workshops

出版信息

• 主题领域: 批判性人工智能素养与情感人工智能的非正式算法审计。
• 关键词: 情感人工智能，面部情感人工智能，人工智能素养，非正式审计，具身交互，伦理学，参与式设计，可解释人工智能，社会文化批判，有形制作。

背景与问题

• 问题/挑战: 情感人工智能（EAI），尤其是面部情感人工智能（FEAI），因科学有效性、偏见和伦理问题而备受争议。公众对这些技术的理解和批判性参与仍然有限，尤其是那些不在正规教育体系中的成年人。
• 重要性: 随着EAI在招聘、教育和心理健康等领域的应用日益普及，培养批判性人工智能素养变得至关重要，以便个人能够理解、批判并塑造这些技术。
• 动机与相关工作: 先前的研究主要集中在针对青少年的人工智能素养教育和技术算法审计。非正式算法审计和参与式方法显示出潜力，但缺乏对具身和社会文化方面的重视。本文通过探索非正式具身审计如何支持成年人的批判性人工智能素养，填补了这一空白。

解决方案

• 提出的方法: Explore-FEAI，一个互动的FEAI模型和网站，结合社区工作坊，使参与者能够探索FEAI的输入/输出，反思其机制，并批判性地参与其伦理和社会文化意义。
• 创新点:
  1. 引入非正式具身审计作为通过具身和物质探索实现批判性人工智能素养的方法。
  2. 设计Explore-FEAI，一个定制的FEAI模型和带有可解释人工智能（XAI）工具的互动网站，用于实践学习。
  3. 分析具身交互和有形制作如何支持对FEAI的批判性参与。
  4. 提出利用社会文化和具身知识进行非正式人工智能审计的框架。
• 过程和关键技术:
  • 开发Explore-FEAI，具备Grad-CAM可视化、图像编辑工具和历史回顾面板等功能。
  • 举办五场工作坊（N=30），参与者与Explore-FEAI互动，测试不同输入，并讨论社会和伦理意义。
  • 使用有形材料（粘土、记号笔、纸张）进行创造性探索和情感自我反思。
  • 对参与者的互动和反馈进行反思性主题分析。

结果

• 具体发现:
  • 参与者通过推理FEAI的机制、批判训练数据以及表达社会文化和伦理问题，展现了人工智能素养的提升。
  • 具身和物质探索支持参与者测试输入、反思情感，并批判性地参与FEAI。
  • 参与者对FEAI的科学有效性提出了基础性批判，包括情感的复杂性、表演性和文化情境性。
• 相较基线的优势: 该方法独特地结合了具身交互、有形制作和非正式审计，促进了批判性人工智能素养，弥补了以往工作中专注于技术或青少年人工智能素养教育的不足。
• 实验/评估:
  • 在多样化的社区环境中（大学、画廊、职业中心、创客空间）举办工作坊。
  • 数据包括参与者的工作表、音频/视频记录和系统交互日志。
  • 使用反思性主题分析捕捉参与者的意义建构和批判性反思。
• 局限性与未来工作:
  • 需要更多的支持来处理FEAI中的种族主义和性别歧视等敏感话题。
  • 对没有EAI的监管未来或情景的探索有限。
  • 未来工作可以扩展到其他人工智能系统（如语音或姿态识别），并探索非正式具身审计的更广泛应用。

总结

本研究提出了非正式具身审计作为促进批判性人工智能素养的创新方法，特别是针对情感人工智能（EAI）。通过Explore-FEAI系统和社区工作坊，参与者通过具身和物质探索测试FEAI的输入/输出，推理其机制，并批判性地反思其伦理和社会文化意义。研究结果突出了具身交互和有形制作在支持非正式审计和公众参与人工智能技术方面的潜力。本研究推进了非正式环境中成人人工智能素养的方法，并为参与式和教育性人工智能项目提出了设计考量。