美国不同情境下公众对情感人工智能使用的看法

研究背景与问题

问题与挑战

• 情感人工智能（Emotion AI）的应用范围正在不断扩展，从工作场所到医疗保健，从智能设备到公共安全，但公众对其态度和在这些领域的使用舒适度却知之甚少。
• 核心挑战在于：缺乏有关公众对情感AI的跨场景认知与接受度的系统性研究，特别是在不同身份和情境（如种族、性别、障碍状况）中的差异。

研究的重要性

• 情感AI技术的部署可能会显著影响隐私、算法偏见、情感劳动力（emotional labor）等问题。特定人群（如有色人种、残障者及性别少数群体）可能比其他群体受更大影响。
• 缺乏对公众态度的量化研究为现有政策制定带来困惑，特别是美国目前对情感AI和情感数据的监管几乎为空白。

相关工作与动机

• 先前的研究集中于情感AI在少数具体领域（如社交媒体、工作场所）的质性调查，但缺乏大规模的量化研究。
• 英国的类似调查发现大众对情感AI普遍不认可，但尚未探索跨情境的普及性或身份因素的影响。
• 本研究动机：提供首个对美国公众对情感AI的态度的横断面调查，核心关注点为情境、情感类型以及身份因素的交互作用。

解决方案

方法与流程

• 数据收集：通过调查平台Prolific，基于美国人口（性别、年龄、种族与政治倾向样本比例）招募了599名参与者，并在少数身份群体（残障、有色人种、跨性别及非二元性别者）中进行超样本化。
• 调查设计：
  • 提供情感AI的标准定义及其可能任务（如通过语音、面部表情推测情绪）。
  • 测量公众对情感AI的总体态度，以及在11个高影响领域（如医疗、边境管控、公共空间等）的具体舒适度。
  • 评估对特定情感推论（如快乐、愤怒、悲伤）的舒适度。
  • 控制变量包括种族、性别、年龄、教育、收入、AI准确性知觉等。
• 分析方法：采用类型II协方差分析（Type II ANCOVA）衡量身份因素对舒适度的显著影响，并使用事后Tukey HSD测试对显著对比进行探讨。

研究创新性

• 首次量化了情感AI在美国的公众态度及舒适度，跨越11种使用情境并细化至身份特征。
• 强调了特定情感类型（如快乐、恐惧）在公众舒适度中的巨大影响。
• 采用交叉分析探索身份因素对公众认知的交互影响，为情感AI的公平部署提供直接洞见。

研究成果

主要发现

1. 总体态度：参与者对情感AI的总体态度偏负面（均值=3.30/7）。
2. 跨情境差异：
   • 医疗保健情境的舒适度最高（均值=3.61/7），而在职场和社交媒体中的使用舒适度最低（均值分别为2.34和2.38）。
3. 情感类型的影响：
   • 参与者对情感AI推断“快乐”显著更为舒适；"恐惧"在某些安全相关情境中被认为具有一些益处。
4. 身份因素的影响：
   • 残障参与者显著对多种情境（如职场、车辆、公共空间）中的情感AI使用更为不安。
   • 有色人种对多数情境下情感AI的接受度较高，但在公共空间、边境、求职面试等存在种族偏见风险的情境中表现出更大的不安。
   • 性别差异显著：男性整体对情感AI接受度高于女性；跨性别及非二元性别者对公共场所及职场中的AI使用尤为不适。

与现有研究的比较及优势

• 对比英国研究，本研究扩展考察了性别和残障等身份维度，并揭示了美国与英国在公众态度上的差异（如更侧重于隐私及种族因素）。
• 提供更加细粒度的整合分析，将情感AI的情境性、特定情感类型推断及身份交叉影响结合起来。

实验或评估结果

• 大众对情感AI整体的舒适度低，反映了普遍的隐私担忧以及对准确性和公平性的质疑。
• AI推论“快乐”和被感知为“准确”的推论对公众舒适度具有积极作用，但总体增幅有限。

局限性与未来方向

• 局限性：
  • 未区分不同类型的残障或种族细分对舒适度的影响。
  • 某些情境和情感类型间的影响量较小，需要谨慎解读。
• 未来方向：
  • 深入探究特定情境（如教育与医疗）的具体风险与受益权衡。
  • 将调查扩大到其他国家或文化背景以比较跨国态度差异。
  • 探索如何在政策和设计上更有针对性地应对少数群体的关切。

总结

该研究以全面量化数据验证了情感AI所引发的跨情境与身份交互下的复杂公共态度，揭示了公众对情感数据的保护期望。研究结果直接呼吁监管机构对情感AI实施更严格的跨情境管理，并为设计师与开发者提供可操作的道德准则。