数据主体对社交媒体上自动情绪识别赋能的心理健康干预的概念化与态度研究

DOI

自动情绪识别赋能的心理健康干预利用ER算法，根据用户在线互动（如社交媒体活动）产生的数据推断数据主体的情绪并相应干预。该技术在社交媒体领域的商业应用潜力得到广泛认可，但学界对数据主体对此类干预的概念化和态度知之甚少。为填补这一空白，我们访谈了13名美国成年社交媒体用户，了解他们对基于社交媒体的自动情绪识别赋能心理健康干预的态度。结果表明参与者对此类干预的态度总体偏负面，消极态度主要源于他们将人工智能与传统提供心理健康支持的人类进行比较。AI与人类干预的比较基于参与者质疑AI能否具备的人类属性：1)有用性和真诚关怀；2)个人和专业知识；3)道德；4)通过共享人性实现仁慈。在某些情况下，当参与者考虑干预对他人的影响而非对自身的影响时，态度会发生转变。少数参与者在以下情况下持更积极态度，尽管有所保留：1)支持学术研究；2)增加心理健康支持的可及性；3)防止严重伤害。然而，大多数参与者预计此类干预会对他人造成伤害，如重新创伤、传播不准确健康信息、不当监控和基于不准确预测的干预。尽管参与者对自动情绪识别赋能的心理健康干预存疑，我们确定了三个决定其态度的开发与交付质量：1)准确性；2)情境敏感性；3)积极结果。本研究旨在将受此技术影响的数据主体的声音置于中心，而非对该技术是否或如何存在做出规范性陈述。我们主张在开发道德和可信賴的ER应用需求时纳入数据主体，并讨论了发现的伦理、社会和政策含义，表明在当前美国实际和监管环境下，参与者构想的此类干预与促进可信賴、具社会意识和负责任AI技术的目标不相容。